本地部署(1) - 免费开源GPT-4All，离线无需GPU！

1. 安装

1. 进入官网 https://gpt4all.io/index.html

2. 下载与自己操作系统匹配的安装包

3. 安装即可【注意安装期间需要保持网络】

4. 修改一些设置

找到设置

2. 模型选择

1. 先了解有哪些模型，这里官方有给出模型的测试结果，可以重点看看加粗的“高分”模型

2. 光顾着“高分”也不行，需要看看自己电脑能不能带的动，实测我电脑配置是4800H核显+16G运行内存，勉强能够运行16G的模型，下面有我分别测试的8G模型和16G模型效果。

8G模型测试的效果

有点点离谱，哈哈

 3. 还需要注意是否允许商业化，在官网也有标识

4. 个人建议的模型是第一个（我也只使用过两个模型🤣）

官网下载的链接：【建议使用下载工具下载，我是使用JDownloader 2】

https://gpt4all.io/models/gguf/mistral-7b-openorca.Q4_0.gguf

https://gpt4all.io/models/gguf/nous-hermes-llama2-13b.Q4_0.gguf

3. 模型安装

模型安装非常简单，直接将下载好模型放入下面的文件夹即可

如果点击Browser没有打开到指定页面，复制地址，在文件夹中打开

4. 完成安装

重启软件后，当你显示的界面跟我一样（模型可以不一样）恭喜你就安装好了，快去试试吧！

 

---

 

小小的体验感受：“高分”的16G大模型Hermes编写代码不太行，有不少细节上的错误，也可能是我的问法不对

8G大模型Mistral OpenOrca也不太行，但感觉比Hermes要号一点