先咨询DeepSeek,它给出三个方案,就选取比较简单的方案: Ollama+DeepSeek+Chatboox。
第一步:下载、安装 Ollama
- 下载地址:Ollama
- 安装Ollama
- 安装完成后,右下角出现图标
- 选择模型:
- 点击左上角【Models】,点击“deepseek-r1”
- 左边“7b”,指deepseek-r1的默认模型是“7b”;
- 右边
,为【复制】按钮,可以将命令行语句复制下来,如:ollama run deepseek-r1。
第二步:执行命令安装 deepseek-r1模型
- 打开Windows Powershell(管理员)
- 运行语句:ollama run deepseek-r1
- ollama发现没有deepseek-r1 7b模型时,会进行模型的安装:
- 显示success时,即安装模型成功;显示 >>> 时,即已进入ollama,可以向AI提问。
第三步:向 AI 提问
好了,就这么简单,搭建私服 AI 完成。
第四步:添加外壳Chatbox
- 下载Chatbox,下载地址:https://chatboxai.app/zh
- 安装Chatbox
- 运行、设置Chatbox
- 点击【设置】
- 选择“OLLAMA API”,再选择“deepseek-r1……”模型,并【保存】。
- 点击【新对话】,就可以与AI进行对话了。
(整个本地部署DeepSeek的过程全部完成。)