用Llama3零成本构建私有AI知识库

今天的分享是关于如何零成本搭建一个私有的AI知识库，这个方案特别适用于那些面临大量产品知识需要记忆的销售人员。

我的一个朋友，一位中年转行到医疗器械公司的销售员，最近就和我聊到了这样的问题：产品种类繁多，技术参数复杂，要为客户推荐合适的产品，就需要有深厚的产品知识储备。这对于他来说是个挑战，因为除了要学习产品知识，还要面对领导的压力和业绩的挑战，这使得他的工作倍感压力。

于是我给他提出了一个建议：将产品说明和技术资料提供给AI，让AI来学习。这样，销售人员在推广产品时遇到问题，可以直接向AI咨询，或者让客户自己向AI提问，以了解他们适合哪种产品。这样的智能客服问答系统可以大大减轻基层销售人员的工作负担。

如果你也有类似的需求，那么接下来的方案可能会对你有所帮助。这个方案完全利用本地资源，不需要任何费用，并且可以轻松地嵌入到第三方平台，比如你自己公司的网站、微信小程序等等。

让我们先来看看这个知识库的效果。这里展示的是知识库中的一个产品说明截图为例，它包含了产品适用的病症的患病人群发病率数据。

现在，我将向AI提出一个问题，看看它如何回答。

看到了吗？AI不仅给出了答案，并指明了它是从哪个知识库中学习到这些信息的。

接下来，将向大家展示如何从零开始搭建这样一个系统。

这次使用的框架是MaxKB和Ollama分别提供前端UI和本地的免费大模型接口

安装Ollama

下载地址：https://ollama.com/download

下载之后双击安装即可。

然后打开CMD窗口输入命令：

ollama run llama3

开始自动下载llama3模型

安装MaxKB

docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb

在命令行输入以上命令部署docker服务

成功之后在浏览器访问：127.0.0.1:8080

进入到登录页面后输入默认用户名密码：

# 用户名: admin``# 密码: MaxKB@123..

首次登陆后需要修改密码，然后进入设置页面配置大模型参数

模型名称随便取一个，模型类型只有一个默认选项，基础模型填写ollama中实际下载的模型名称，API域名填写安装ollama主机的地址，本机就填写127.0.0.1:11434，api key随便填点什么，然后保存

模型配置完开始创建知识库

知识库类型分两种通用性可以手工录入信息和上传数据文档，web站点是提供一个网址，然后系统爬取网页上的文字信息。

这里我们需要上传文档，就选通用型。

填写基本信息后点击上传文档，然后导入系统

导入后系统会对文档内容进行只能分段，速度很快，但精准度可能不如手工分段，这根据自己的需求来选择，这里演示智能分段

点击右下角导入

现在就可以根据这个知识库创建一个智能助手了

填写基本信息

添加知识库

点击创建

进入设置界面

进入一个调试设置页面

对比一下原文档的内容：

很ok

接下来就可以将这个应用分发给业务人员作为产品知识助手，也可以把这个应用接入公司网站或者微信小程序直接面对客户用作AI客服

至此我们就拥有一个智能的AI知识库，它不仅能提高工作效率，还能提升客户服务质量。希望这个方案能对你有所帮助！

👉AI大模型学习路线汇总👈

大模型学习路线图，整体分为7个大的阶段：（全套教程文末领取哈）

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

👉大模型视频和PDF合集👈

观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

👉获取方式：

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓