自己电脑搭建个人知识库,一般电脑也能玩(支持通义千问、GPT等)。

你好,我是郭震

结合AI大模型能力,构建个人知识库,做一个问答系统。

很多人都有这种需求。

因为此种模式,既能发挥大模型的AI问答能力,又能考虑到我们自己个性的文档知识库。

常见的方案有这样几种:

1. 调用闭源大模型(如ChatGPT, Claude)API,使用向量数据库管理个人知识库;

2. 本地部署开源大模型(如Qwen,Llama),使用向量数据库管理个人知识库;

第一种方式调用API需要付费,第二种方式虽然不花钱,但是对个人电脑性能要求很高,运行本地大模型+向量数据库,两者叠加得配置一台高性能电脑,变相增加投入了。

有没有一个更好的方案,既不花钱,一般电脑又能玩的搭建方法?

我这篇文章的目标就是尝试探索这样一种解决方案,帮大家做到既不花钱,又一般电脑也能玩。这个大框架下,再从中选择最容易搭建的方法,尽量少的安装第三方工具包,这样大家非常容易部署。

最后的解决方案,只需要一个代码文件,全部搞定。

好的,朝着目标,咱们走起。

前期准备

1. 准备一台8G以上内存的电脑,无显卡也问题不大;

2. 通过我前几天发的这篇文章:自己电脑搭建AI大模型详细教程,支持通义千问、Llama3、接口调用等。在本地搭建好qwen:7b模型,文章中介绍的应该

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值