【AI大模型】AnalyticDB与通义千问搭建AI智能客服-CSDN博客

本文链接：https://blog.csdn.net/huang9604/article/details/142821419

本活动基于AnalyticDB for PostgreSQL的高性能RAG引擎与阿里云自主研发的通义千问LLM模型，构建一个高性能的检索增强生成（Retrieval-Augmented Generation, RAG）应用，实现企业的AI智能客服，更高效地解决客户问题。

一、引言

基于RAG技术的AI智能客服能够高效地检索企业私域知识库，并利用大语言模型理解问题的上下文和意图，生成准确、贴切的答案。开发者将企业私域知识上传到智能问答系统后，企业业务人员就能通过提问快速获取公司政策、操作流程、专业知识等信息，客户也能快速得到产品知识、售后问题的答案。

本活动基于AnalyticDB for PostgreSQL的高效向量引擎与阿里云自主研发的通义千问LLM模型，构建一个高性能的检索增强生成（Retrieval-Augmented Generation, RAG）应用，实现企业的AI智能客服，更高效地解决客户问题。

完成动手任务：搭建AI智能客服，即可获得手绘马克杯，邀请好友完成任务即有机会获得卫衣、淘公仔、云栖大会纪念版徽章等诸多好礼！

二、搭建AI智能客服方案概览

大模型虽然可以理解并生成自然语言，但由于缺乏特定领域的专业知识、没有企业的私域知识、知识更新不及时等问题，无法直接用于企业的AI智能客服。为了解决这一问题，企业可以采用RAG技术，从外部知识库（企业的私域知识）检索知识。召回的知识将和原始查询融合成prompt，为大模型提供更丰富的上下文信息，从而生成更加准确的回答。本方案将指导您快速创建一个RAG应用（AnalyticDB for PostgreSQL向量存储+通义千问LLM模型），实现企业的AI智能客服，更高效地解决客户问题。

1、方案优势

简单易用：只需简单的页面点击，即可实现知识检索增强，使大模型有更丰富的上下文信息并生成更准确的答案。同时，本方案提供智能客服的示例代码，方便您快速体验AI智能客服。
灵活且安全管理：向量数据存储在AnalyticDB for PostgreSQL，企业可灵活管理数据。配套的审计、权限管理等功能可满足企业安全合规需求。
性价比高：完成本方案的部署及体验，预计产生费用不超过10元（假设您选择部署准备中相关规格资源，且运行时间不超过1小时，如果调整了资源规格，请以控制台显示的价格以及最终账单为准）。

2、方案架构

在阿里云上搭建的云上私有网络如图所示。实际部署时，您可以根据资源规划修改部分设置，但最终形成的运行环境与下图相似。

在这里插入图片描述

本方案的技术架构包括以下基础设施和云服务：

1个专有网络 VPC：将云原生数据仓库 AnalyticDB PostgreSQL 版部署在专有网络中。
1台交换机：将云服务器 ECS实例和云原生数据仓库 AnalyticDB PostgreSQL 版实例部署在交换机中，实现它们之间的网络通信。
1台云服务器 ECS：用于部署智能客服。
1个云原生数据仓库 AnalyticDB PostgreSQL 版实例：提供向量数据存储和检索服务。
百炼：一站式的企业专属大模型生产平台。在本方案中，提供通义千问LLM模型的调用以及知识索引功能。

三、部署准备

开始部署前，请按以下指引完成账号申请、账号充值和授权。

准备账号

1、如果您还没有阿里云账号，请访问阿里云账号注册页面，根据页面提示完成注册并进行个人实名认证。阿里云账号是您使用云资源的付费实体，因此是部署方案的必要前提。

2、为阿里云账号充值。本方案的云资源支持按量付费，且默认设置均采用按量付费引导操作。如果确定任何一个云资源采用按量付费方式部署，账户余额都必须大于等于100元。

四、一键部署

资源编排（ROS）可以让您通过YAML或JSON文件清晰简洁地描述所需的云资源及其依赖关系，然后自动化地创建和配置这些资源。您可以通过下方提供的ROS一键部署链接，来自动化地完成这些资源的创建和配置。

部署1个专有网络 VPC。
部署1台交换机。
部署1台云服务器 ECS，并在服务器上部署Python3.9环境和AI智能客服的示例代码。
部署1个云原生数据仓库 AnalyticDB PostgreSQL 版实例。

五、体验智能问答

在ROS控制台资源栈列表页，找到目标资源栈，单击资源栈ID，然后切换到输出页签。
复制WebUrl的地址，粘贴到浏览器地址栏，访问AI智能客服。
在提问框中提问，例如“哪款手机续航时间最长”。

您可以看到此时大模型的回答参考了您上传的百炼系列手机产品介绍。

六、完成及清理

清理资源

在本方案中，您创建了1台云服务器 ECS实例、1个云原生数据仓库 AnalyticDB PostgreSQL 版实例、1个百炼应用、1个安全组、1个交换机、1个专有网络 VPC。完成本文方案的体验后，如需删除资源，可按下文操作。

删除云服务器 ECS实例、云原生数据仓库 AnalyticDB PostgreSQL 版实例、安全组、交换机、专有网络 VPC，可以在ROS控制台找到目标资源栈，单击删除，选择删除方式为释放资源。
删除百炼应用，需要登录百炼控制台我的应用页面，在应用右上角单击 > 删除应用。在数据处理页面和数据应用 > 知识索引页面，找到上传的数据和创建的知识库，单击删除。

七、体验使用AnalyticDB与通义千问搭建AI智能客服，参与即能得好礼

想必你通过实操，已经掌握了如何使用AnalyticDB与通义千问搭建AI智能客服。现在邀请你来到阿里云开发者社区参加“AnalyticDB与通义千问搭建AI智能客服”活动，跟随教程完成任务一和任务二即可得手绘马克杯，限量400个（同一用户仅可领取一次奖品，用户完成任务后需点击“领取奖品”按钮进行领取）。邀请好友完成任务即有机会获得卫衣、淘公仔、云栖大会纪念版徽章等诸多好礼！

如何系统的去学习大模型LLM ？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

事实上，抢你饭碗的不是AI，而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后，很多中小企业也陆续进场！超高年薪，挖掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，普通程序员，还有应对的机会吗？

与其焦虑……

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高。

针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)

在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程（LLaLA/Meta/chatglm/chatgpt）

在这里插入图片描述

LLM大模型学习路线 ↓

阶段1：AI大模型时代的基础理解

目标：了解AI大模型的基本概念、发展历程和核心原理。
内容：
- L1.1 人工智能简述与大模型起源
- L1.2 大模型与通用人工智能
- L1.3 GPT模型的发展历程
- L1.4 模型工程
- L1.4.1 知识大模型
- L1.4.2 生产大模型
- L1.4.3 模型工程方法论
- L1.4.4 模型工程实践
- L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

目标：掌握AI大模型API的使用和开发，以及相关的编程技能。
内容：
- L2.1 API接口
- L2.1.1 OpenAI API接口
- L2.1.2 Python接口接入
- L2.1.3 BOT工具类框架
- L2.1.4 代码示例
- L2.2 Prompt框架
- L2.3 流水线工程
- L2.4 总结与展望