跑在笔记本里的大语言模型 - GPT4All

何为GPT4All

GPT4All 官网给自己的定义是：一款免费使用、本地运行、隐私感知的聊天机器人，无需GPU或互联网。

从官网可以得知其主要特点是：

1. 本地运行（可包装成自主知识产权🐶）
2. 无需GPU（穷人适配）
3. 无需联网（某国也可运行）
4. 同时支持Windows、MacOS、Ubuntu Linux（环境要求低）
5. 是一个聊天工具

模型介绍

GPT4All支持多种不同大小和类型的模型，用户可以按需选择。

序号	模型	许可	介绍
1	ggml-gpt4all-j-v1.3-groovy.bin	商业许可	基于GPT-J，在全新GPT4All数据集上训练
2	ggml-gpt4all-113b-snoozy.bin	非商业许可	基于Llama 13b，在全新GPT4All数据集上训练
3	ggml-gpt4all-j-v1.2-jazzy.bin	商业许可	基于GPT-J，在v2 GPT4All数据集上训练。
4	ggml-gpt4all-j-v1.1-breezy.bin	商业许可	基于GPT-J，在v1 GPT4All数据集上训练
5	ggml-gpt4all-j.bin	商业许可	基于GPT-J，在v0 GPT4All数据集上训练
6	ggml-vicuna-7b-1.1-q4_2.bin	非商业许可	基于Llama 7b，由加州大学伯克利分校、加州大学医学院、斯坦福大学、麻省理工大学和加州大学圣地亚哥分校的团队训练。
7	ggml-vicuna-13b-1.1-g4_2.bin	非商业许可	基于Llama 13b，由加州大学伯克利分校、加州大学医学院、斯坦福大学、麻省理工大学和加州大学圣地亚哥分校的团队训练。
8	ggml-wizardLM-7B.q4_2.bin	非商业许可	基于Llama 7b，由微软和北京大学训练。
9	ggml-stable-vicuna-13B.q4_2.bin	非商业许可	基于Llama 13b和RLHF，由Stable AI训练

GPT4All的模型是一个 3GB - 8GB 的​​文件，目前由Nomic AI进行维护。