开源一个RAG大模型本地知识库问答机器人-ChatWiki_基于rag的智能客服,如果限制大模型不能胡乱回答呢-CSDN博客

本文链接：https://blog.csdn.net/huang9604/article/details/140840693

简介： 准备工作再安装ChatWiki之前，您需要准备一台具有联网功能的linux服务器，并确保服务器满足最低系统要求• Cpu：最低需要2 Core• RAM：最低需要4GB开始安装ChatWiki社区版基于Docker部署，请先确保服务器已经安装好Docker。如果没有安装，可以通过以下命令安装：

目前大模型非常火爆，很多企业一直想把大模型用在企业的客服中，但是基本上没有太多的成功案例。这个事情，我思考了下

1. 企业的客服服务是非常严谨的，不能乱回答。

比如在电商场景，用户说这个产品是否可以退款，那大模型如果回答说可以。如果产品价格非常高，比如在1万以上，那么这个产品是不是要退款？损失谁来回答。所以企业必须要机器人严格按照企业的知识库的要求来，不能乱回答

2.企业的资料的保密性

目前的大模型，当你把资料传给大模型的时候，实际上，你把资料也给机器人当做语料去训练机器人了，你的文档就是公开的文档了，这对许多企业来说，基本上不会把敏感资料传给大模型了

还记得之前网上报道过，三星把一个芯片资料传给大模型，导致敏感技术资料泄密的问题。

ChatGPT「奶奶漏洞」又火了，扮演过世祖母讲睡前故事，骗出Win11序列号

在这里插入图片描述

3 大模型从问答，到企业部署到自己的客服渠道，有大多的工作量

大模型提高了接口，提供了文字问答能力，但是，企业的客户咨询，是从

1 APP里

2 公司官网

3 公众号，小程序，视频号

4 抖音

5 小红书

6 微博

这么渠道，各个场景都要去覆盖，一般的企业根本就没这个开发实力。

基于这个想法，我就想做个基于大模型的问答机器人，完全打通小程序客服，微信公众号客服，视频号小店客服，H5APP客服，公司官网，部署简单。这样企业就很方便的部署起来。

我的想法是

**方法一：渠道统一管理，把常用的渠道，全部默认支持到
**

在这里插入图片描述

方法二：将企业知识库管理简单化

直接将doc，网址，pdf ，excel 直接上传到，就可以支持基于知识库的问答了。

在这里插入图片描述

上传的知识库，进行分段embedding操作

在这里插入图片描述

最后创建机器人，关联这个知识库，就可以对外提供服务了

在这里插入图片描述

以下是我们的架构图

在这里插入图片描述

下面是具体的一些介绍

ChatWiki

ChatWiki是一款开源的知识库 AI 问答系统。系统基于大语言模型（LLM ）和检索增强生成（RAG）技术构建，提供开箱即用的数据处理、模型调用等能力，可以帮助企业快速搭建自己的知识库 AI 问答系统。

能力

1、专属 AI 问答系统

通过导入企业已有知识构建知识库，让 AI 机器人使用关联的知识库回答问题，快速构建企业专属 AI 问答系统。

2、一键接入模型

ChatWiki已支持全球20多种主流模型，只需要简单配置模型API key等信息即可成功接入模型。

3、数据自动预处理

提供自动分段、QA分段、手动输入和 CSV 等多种方式导入数据，ChatWiki自动对导入的文本数据进行预处理、向量化或 QA 分割。

4、简单易用的使用方式

ChatWiki采用直观的可视化界面设计，通过简洁易懂的操作步骤，可以轻松完成 AI 问答机器人和知识库的创建。

5、适配不同业务场景

ChatWiki为 AI 问答机器人提供了不同的使用渠道，支持H5链接、嵌入网站、绑定到微信公众号或小程序、桌面客户端等，可以满足企业不同业务场景使用需求。

开始使用

准备工作

再安装ChatWiki之前，您需要准备一台具有联网功能的linux服务器，并确保服务器满足最低系统要求

Cpu：最低需要2 Core
RAM：最低需要4GB

开始安装

ChatWiki社区版基于Docker部署，请先确保服务器已经安装好Docker。如果没有安装，可以通过以下命令安装：

sudo curl -sSL https://get.docker.com/ | CHANNEL=stable sh

安装好Docker后，逐步执行一下步骤安装ChatWiki社区版

(1).克隆或下载chatwiki项目代码

git clone https://github.com/zhimaAi/chatwiki.git news brief pound b press

(2).使用Docker Compose构建并启动项目

cd chatwiki/docker

docker compose up -d

部署手册

在安装和部署中有任何问题或者建议，可以联系我们获取帮助，也可以参考下面的文档。

界面

在这里插入图片描述

技术架构

技术栈

前端：vue.js
后端：golang +python
数据库：PostgreSQL16+pgvector+zhparser
缓存：redis5.0
web服务：nginx
异步队列：nsq
进程管理：supervisor
模型：支持OpenAI、Google Gemini、Claude3、通义千文、文心一言、讯飞星火、百川、腾讯混元等模型。

如何系统的去学习AI大模型LLM ？

作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。

但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的 AI大模型资料 包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

所有资料 ⚡️ ，朋友们如果有需要全套《LLM大模型入门+进阶学习资源包》，扫码获取~

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

一、全套AGI大模型学习路线

AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！

二、640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。那以下这些PDF籍就是非常不错的学习资源。

在这里插入图片描述

四、AI大模型商业化落地方案

阶段1：AI大模型时代的基础理解

目标：了解AI大模型的基本概念、发展历程和核心原理。
内容：
- L1.1 人工智能简述与大模型起源
- L1.2 大模型与通用人工智能
- L1.3 GPT模型的发展历程
- L1.4 模型工程
  - L1.4.1 知识大模型
  - L1.4.2 生产大模型
  - L1.4.3 模型工程方法论
  - L1.4.4 模型工程实践
- L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

目标：掌握AI大模型API的使用和开发，以及相关的编程技能。
内容：
- L2.1 API接口
  - L2.1.1 OpenAI API接口
  - L2.1.2 Python接口接入
  - L2.1.3 BOT工具类框架
  - L2.1.4 代码示例
- L2.2 Prompt框架
  - L2.2.1 什么是Prompt
  - L2.2.2 Prompt框架应用现状
  - L2.2.3 基于GPTAS的Prompt框架
  - L2.2.4 Prompt框架与Thought
  - L2.2.5 Prompt框架与提示词
- L2.3 流水线工程
  - L2.3.1 流水线工程的概念
  - L2.3.2 流水线工程的优点
  - L2.3.3 流水线工程的应用
- L2.4 总结与展望

阶段3：AI大模型应用架构实践

目标：深入理解AI大模型的应用架构，并能够进行私有化部署。
内容：
- L3.1 Agent模型框架
  - L3.1.1 Agent模型框架的设计理念
  - L3.1.2 Agent模型框架的核心组件
  - L3.1.3 Agent模型框架的实现细节
- L3.2 MetaGPT
  - L3.2.1 MetaGPT的基本概念
  - L3.2.2 MetaGPT的工作原理
  - L3.2.3 MetaGPT的应用场景
- L3.3 ChatGLM
  - L3.3.1 ChatGLM的特点
  - L3.3.2 ChatGLM的开发环境
  - L3.3.3 ChatGLM的使用示例
- L3.4 LLAMA
  - L3.4.1 LLAMA的特点
  - L3.4.2 LLAMA的开发环境
  - L3.4.3 LLAMA的使用示例
- L3.5 其他大模型介绍