这篇文章是关于搭建本地个人知识库,零代码!喂饭级教程!支持GPT、Llama3、Kimi等十几种大模型。教程由我编写,每一步已经过验证,可实践!
1 搭建本地知识库优势
部署本地知识库,可以借助大模型能力,自动检索我们的工作学习文档,实现对文档内容的实时搜索与问答。
因为大模型、知识库和文档全部运行在本地,所以公司内的业务数据不会泄密,个人隐私不会泄密,保证这些同时,让:办公效率直接原地起飞!
搭建完成后,实现的效果如下:
按照本文教程走完 实现的本地知识库效果
大模型+个人知识库,太香了!
我在视频号也录制了一个回答效果,
老铁们可以参考,
视频号中有获取这个教程完整PDF版本的方法
2 docker下载MaxKB
MaxKB是一个在本地搭建自己本地知识库问答的系统。主要优势:
1)开箱即用
2)支持GPT、百度千帆、Lama3,通义千问等****几十种大语言模型
3)操作界面简介,小白也能快速上手
第一步,安装docker,如何下载docker,如何安装docker,我已经整理成详细的教程,不再赘述,不会的朋友,在我下面的公众号回复:AI,即可获取到PDF教程。
安装后docker后,执行下面命令获取到MaxKB的镜像到本地:
下面是正在安装的过程:
整个MaxKb的镜像大小为2GB左右。
3 docker配置MaxKB
安装完成后,打开docker,按照下图逐步操作:
在弹出的界面,点击 Run:
这是弹出的界面,如果你的缺少Ports这样端口设置,可以重启电脑,然后再次打开进入这里,大概率应该会出现。
然后按照下面填写:
注意,先不要关闭这个窗口,稍后我们还需要再填入一些信息。
接下来,我们在自己的电脑上,创建一个存放知识库数据****的文件夹,然后记住这个文件夹路径,因为我们还要返回到刚才的上面的界面,找到Volumes输入框,下图4处,填入刚才的知识库路径,我的路径如下:
/Users/zhenguo/Documents/words
随后在Container path输入框中填入**/var/lib/postgresql/data**,下图5处,这是固定不变的,直接复制过去!
最后点击Run按钮,这样一个MaxKB容器就搭建完毕了!
4 打开MaxKB网页
浏览器打开下面链接,复制到浏览器中,看到MaxKB应用界面:
http://127.0.0.1:8080
不过这里需要提供登录账号和密码,大家关注我下面的公众号,并回复关键词 kb 获取:
登录进去后,初次登录到MaxKB后,需更改登录用户名和登录密码。看到创建应用程序的界面:
5 构建第一个知识库
我们先尝鲜它的知识库搭建,所以选择知识库导航这里:
然后点击创建知识库按钮,就会出来下面页面:
平时做过一些Python副业接单,把做过的其中一部分副业需求文档、传入到这个知识库里面,因为都是在本地构建,放心使用:
这里的知识库系统有两种,一种是通用型,也就是自己的文档本地上传,另一种是web站点,用某些网站作为知识库构建的数据来源。在这里根据我的需求,应该选择通用型。
然后点击进入选择文件夹这里,上传我的Python副业代码文件,说明文档,数据格式可以是txt、word、pdf、ppt等,在确定需要上传的文档后,点击右下角的“创建并导入”按钮。
如下图所示,上传这里面的文件到本地MaxKB系统,还可以直接读取一个文件夹,这样就更方便了。为了加快接入,选择一部分文件作为测试:
然后点击右下角 创建并导入
导入后,系统就会开始处理分析和接入,文档导入时间长短取决于文档内容的多少,内容越多,导入时间就越长。
6 配置本地llama3
MaxKB网站内的应用界面中,按照如下所示点击系统设置,然后再进入模型设置界面
可以看到这里支持的大模型比较多:
我以ollama+llama3配置为例,之前我已经总结过配置这些的详细教程,关注我的公众号,然后发消息:AI,直接获取PDF教程。在这里不再赘述。安
装完ollama和llama3后,开始下面一步,非常重要,按照我的这个说明,对应填写,然后点击添加:
添加成功后,会显示下面界面:
7 创建知识库应用
这是最后一步了,回到MaxKB界面:
点击应用,然后创建应用,填写应用名称、应用描述,AI模型这里,选择我们刚才创建的MaxKB里的llama3模型,如下所示,按照这样填写:
记得勾选这里:这样大模型和我们本地知识库就关联起来了:
最后点击,创建,按钮,就会看到下面的应用:
以上完整步骤,根据本文步骤,就可以实现文章开始的问答效果。老铁,原创教程不易,求点赞、在看、转发或留言,这样对我创作下一个良心教程会有莫大的动力!
那么,如何系统的去学习大模型LLM?
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
作为一名热心肠的互联网老兵,我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。
但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
所有资料 ⚡️ ,朋友们如果有需要全套 《LLM大模型入门+进阶学习资源包》,扫码获取~
篇幅有限,部分资料如下:
👉LLM大模型学习指南+路线汇总👈
💥大模型入门要点,扫盲必看!
💥既然要系统的学习大模型,那么学习路线是必不可少的,这份路线能帮助你快速梳理知识,形成自己的体系。
👉大模型入门实战训练👈
💥光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
👉国内企业大模型落地应用案例👈
💥《中国大模型落地应用案例集》 收录了52个优秀的大模型落地应用案例,这些案例覆盖了金融、医疗、教育、交通、制造等众多领域,无论是对于大模型技术的研究者,还是对于希望了解大模型技术在实际业务中如何应用的业内人士,都具有很高的参考价值。 (文末领取)
💥《2024大模型行业应用十大典范案例集》 汇集了文化、医药、IT、钢铁、航空、企业服务等行业在大模型应用领域的典范案例。
👉LLM大模型学习视频👈
💥观看零基础学习书籍和视频,看书籍和视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。 (文末领取)
👉640份大模型行业报告👈
💥包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。
👉获取方式:
这份完整版的大模型 LLM 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费
】
😝有需要的小伙伴,可以Vx扫描下方二维码免费领取🆓