小白速成教程：私有化大模型+知识库

在自己的电脑基于ollama 和 anythingllm 搭建私有化大模型+知识库，成为技术达人就是这么简单（文末有对应的视频）

这是一套简单稳定，小白可操作的方案，同时支持后续深入学习更高阶的操作。

搭建完之后，你就可以随时随地无需网络，不用担心隐私泄露的使用你自己的专属知识库的大模型聊天机器人了！

安装ollama

（ollama是玩大模型的一个工具，有了它，安装运行调试大模型都会变得非常简单）

进入网站：https://ollama.com/

1、点击【Download】选一个自己电脑适合的【mac】或者【windows】

（这里有个win版本的，方便大家在国内下载，链接：

https://pan.quark.cn/s/a9974a779650 提取码：jnBL）

2、下载完成后，点击安装即可，和其他软件安装方法一样，【Install】

3、安装完成后，电脑每次开机会自动启动，桌面的图标也是一只羊驼

4、检查：键盘按【win+R】输出【cmd】回车

在输入【ollama -v】显示如下，说明安装成功。

修改ollama模型保存路径

（为了避免大模型把C盘占满，我们需要修改ollama下载模型的保存位置，不在乎C盘空间可以跳过这个步骤）

1、打开【我的电脑】右键进入【属性】进入【高级系统设置】

2、进入【环境变量】

3、点击【新建】

4、【变量名】写入：OLLAMA_MODELS

点击【浏览目录】选一个空间充足的目录，之后点击【确定】一路保存即可，经过这样的设置后，大模型就可以保存在你自己选择的目录中

下载大模型（基于ollama）

（你可以安装任何ollama支持的模型：

https://ollama.com/library?sort=popular

我们这里一键安装经过中文微调的开源llama3-8b大模型，至少需要8G显存的GPU才能流畅运行）

在这个cmd窗口（键盘按【win+R】输出【cmd】回车）直接输入

ollama run wangshenzhi/llama3-8b-chinese-chat-ollama-q8

如图片显示，下载完成后自动运行，这里你已经完成了llama3大模型私有化的部署和运行，你可以和他对话了，是不是比想象中简单多了。

运行私有化大模型（基于ollama）

1、随时查看已经下载大模型 ollama list

2、执行 ollama run 【加上图中的名字就可以直接运行】

比如 ollama run phi:latest (这是一个可以在cpu运行的大模型)

搭建本地聊天工具（部署Anythingllm）

一个功能强大的大模型开发工具下载地址：

https://useanything.com/

1、我这里还是放一个windows的方便大家下载

（链接：https://pan.quark.cn/s/a9974a779650 提取码：jnBL）

2、安装也是一键安装，左面图标长这样，点击打开即可

3、配置本地下载的大模型，先点击左下角的【配置】，

本地大模型默认地址：http://127.0.0.1:11434

其他说明如下图

4、到此我们已经完成了私有化大模型，聊天机器人的配置，点击左下角返回聊天界面

点击【New Workspace】新建一个聊天空间。

随便写个名字点【Save】

5、左侧点击进入你刚刚创建空间，然后开始和你专属的大模型聊天吧。

搭建私有化知识库（基于Anythingllm）

1、还记得【设置】在哪吧，这次设置【嵌入模型】不理解没关系，照着图设置，想了解的直接问你的私有化大模型，他会给你答案

2、继续设置【向量数据库】照着图设置即可

3、这次返回你的聊天空间，点击【上传按钮】如图

4、上传你的私有知识文档

5、将上传的文件导入到你刚才创建的空间

6、保存后有个数据向量化入库的过程，等待即可，文件越大这个时间越长。等到完成后右下角不会出现保存，同时文档已经在你的列表中，就说明私有化知识库搭建完成了。

7、设置知识库模式，两种模式，按需选择。

到此一个私有化知识库大模型就搭建好了，你可以愉快的和它聊天了！

那么，如何系统的去学习大模型LLM？

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。

但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

所有资料 ⚡️ ，朋友们如果有需要全套 《LLM大模型入门+进阶学习资源包》，扫码获取~

篇幅有限，部分资料如下：

👉LLM大模型学习指南+路线汇总👈

💥大模型入门要点，扫盲必看！

💥既然要系统的学习大模型，那么学习路线是必不可少的，这份路线能帮助你快速梳理知识，形成自己的体系。

👉大模型入门实战训练👈

💥光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

👉国内企业大模型落地应用案例👈

💥《中国大模型落地应用案例集》 收录了52个优秀的大模型落地应用案例，这些案例覆盖了金融、医疗、教育、交通、制造等众多领域，无论是对于大模型技术的研究者，还是对于希望了解大模型技术在实际业务中如何应用的业内人士，都具有很高的参考价值。 （文末领取）

💥《2024大模型行业应用十大典范案例集》 汇集了文化、医药、IT、钢铁、航空、企业服务等行业在大模型应用领域的典范案例。

👉LLM大模型学习视频👈

💥观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。 （文末领取）

👉640份大模型行业报告👈

💥包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

👉获取方式：

这份完整版的大模型 LLM 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

😝有需要的小伙伴，可以Vx扫描下方二维码免费领取🆓