你好,我是郭震
结合AI大模型能力,构建个人知识库,做一个问答系统。
很多人都有这种需求。
因为此种模式,既能发挥大模型的AI问答能力,又能考虑到我们自己个性的文档知识库。
常见的方案有这样几种:
1. 调用闭源大模型(如ChatGPT, Claude)API,使用向量数据库管理个人知识库;
2. 本地部署开源大模型(如Qwen,Llama),使用向量数据库管理个人知识库;
第一种方式调用API需要付费,第二种方式虽然不花钱,但是对个人电脑性能要求很高,运行本地大模型+向量数据库,两者叠加得配置一台高性能电脑,变相增加投入了。
有没有一个更好的方案,既不花钱,一般电脑又能玩的搭建方法?
我这篇文章的目标就是尝试探索这样一种解决方案,帮大家做到既不花钱,又一般电脑也能玩。这个大框架下,再从中选择最容易搭建的方法,尽量少的安装第三方工具包,这样大家非常容易部署。
最后的解决方案,只需要一个代码文件,全部搞定。
好的,朝着目标,咱们走起。
前期准备
1. 准备一台8G以上内存的电脑,无显卡也问题不大;
2. 通过我前几天发的这篇文章:自己电脑搭建AI大模型详细教程,支持通义千问、Llama3、接口调用等。在本地搭建好qwen:7b模型,文章中介绍的应该