Ollama+MaxKB 搭建本地大模型知识库

大模型在训练时学习到的知识大部分都是些通用知识，当我们向它提问一下专业领域的知识时，往往不能得到很多的效果。

对于这种情况，我们可以将涉及到的一些专业或预备知识构建成知识库，在模型回答问题时让它去知识库中找到最相关的段落，然后带着这些知识与问题一起生成更精准的回答。

在这方面目前已经有了比较成熟的开源项目MaxKB，说不多话，直接分享如何搭建本地大模型知识库

首先登录ollama官网(https://ollama.com/download/)，点击对应操作系统下载后一键安装

ollama本地部署开源模型

docker拉取MaxKB镜像并运行

官方指导文档（https://maxkb.cn/docs/installation/online_installtion/）

docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data -v ~/.python-packages:/opt/maxkb/app/sandbox/python-packages cr2.fit2cloud.com/1panel/maxkb

通过8080端口访问(默认用户名admin,密码MaxKB@123…)进去后可以修改密码

选择添加ollama供应商

如果基础模型不在选项中，可以直接填写ollama run的模型名称然后回车，api域名填ollama所在机器的ip:11434端口，本地大模型的apikey随意填非空即可

（如果添加后显示api域名无效，首先确保不要使用127.0.0.1和localhost，还是不行修改环境变量OLLAMA_HOST为0.0.0.0再重启ollama）

创建知识库

点击上传文档，然后创建并导入

选择智能分段并导入，完成后如下图

然后创建应用

选择之前创建的模型，关联创建的知识库，最后保存并发布

选中概览，点击演示

与直接在模型中提问比较效果

由于我构建知识库时上传pdf的是一篇讨论中国在人工智能产业发展中挑战的论文，所以其回答明显提取了论文中的信息与观点

2024最新全套大模型学习资料：大模型学习成长路线、书籍&学习文档、视频教程、项目实战、面试题汇总等，免费分享~

有需要的同学可以通过【微信扫描下方二维码】，即可免费领取！！！

一、大模型学习成长路线

学习新技能，方向至关重要。 正确的学习路线图可以为你节省时间，少走弯路；方向不对，努力白费。

这里，我们为新手和想要进一步提升的专业人士准备了一份详细的学习成长路线图和规划。可以说是最科学最系统的学习成长路线。

二、大模型书籍&学习文档

书籍和学习文档资料是学习大模型过程中必不可少的，我们精选了一系列深入探讨大模型技术的书籍和学习文档，它们由领域内的顶尖专家撰写，内容全面、深入、详尽，为你学习大模型提供坚实的理论基础。（书籍含电子版PDF）

三、大模型视频教程

对于很多自学或者没有基础的同学来说，书籍这些纯文字类的学习教材会觉得比较晦涩难以理解，因此，我们提供了丰富的大模型视频教程，以动态、形象的方式展示技术概念，帮助你更快、更轻松地掌握核心知识。

四、大模型实战项目

学以致用 ，当你的理论知识积累到一定程度，就需要通过项目实战，在实际操作中检验和巩固你所学到的知识，同时为你找工作和职业发展打下坚实的基础。

五、大模型面试题汇总

面试，不仅是技术的较量，更需要充分的准备。在你已经掌握了大模型技术之后，就需要开始准备面试，我们将提供精心整理的大模型面试题库，涵盖当前面试中可能遇到的各种技术问题，让你在面试中游刃有余。

上述的资料已经全部打包好，有需要这份全套的大模型学习资料的同学，可以通过【微信扫描下方二维码】，免费领取！！！

机会总是留给有准备的人。 如果你需要学习大模型，那么请不要犹豫，立刻行动起来！早掌握，早享受。