介绍一下我本地使用的 AI 聊天工具 BotGem
0. 背景
平时比较爱玩本地大模型部署,通过各种工具,可以让部署后的大模型提供兼容 OPenAI API 的服务。
我平时会使用一个叫做 BotGem(原来叫AMA)的工具,今天就来分享一下这个工具的安装和使用。
1. BotGem 效果展示
2. BotGem 下载
访问 https://botgem.com/,下载安装文件。
现在它对移动端和桌面端都有相应的软件支持。
3. BotGem 安装
Windows 环境下,双击下载后的 .exe
文件进行安装即可,非常简单。
4. BotGem 配置
打开 “设置” 界面,将自己的 OpenAI API 信息(我这里是本地部署的大语言模型)配置好, Temperature 和 History Message 还有 Model 可以按照自己喜欢配置。
5. BotGem 使用
单击 “开始对话”,输入消息就可以了。
6. 使用预制指令库
BotGem 还预制了几十个指令库(提示词),比如
- 充当 Linux 终端
- 充当英语翻译和改进者
- 等等
我们试一下 “充当英英字典(附中文翻译)”,
完结!