一、前言
首先我们得了解deepseek(人工智能模型)不同数据规模能干的事情,以及它需要的硬件资源配置条件,deepseek依赖GPU,这就需要你的显卡有足够大的显存容量。
查看显存大小方法:
按下Win+R
打开运行对话框,输入dxdiag并按回车。
本人的笔记本电脑显卡是 RTX4060,显示内存(VRAM)为8G,所以只能选择数据规模为7B的模型。
但是实际测试下来,14B的数据规模也能跑, 只不过对话的结果要加载一会儿。
二、安装步骤
1、安装程序Ollama。 (网址:https://ollama.com)
接着我们把安装包通过管理员身份运行。
2、点击install部署安装。
安装完毕后,桌面右下角会显示图标。
3、登录网址:https://ollama.com/library/deepseek-r1
选择7B模型
复制7B模型旁边的命令: ollama run deepseek-r1:7b
4、按住“win+R”键,呼出运行窗口,输入命令powershell,进入命令行。
把第3步复制的ollama run deepseek-r1:7b
命令复制到命令行中。
完成后出现“Send a message”的字样,说明成功了。此时可以关闭这个窗口。
5、进入系统属性,点击环境变量
新建两个变量:
OLLAMA_HOST : 0.0.0.0
OLLAMA_ORIGINS : *
6、安装 Chatbox-1.9.8-Setup
然后点击设置
按照以下三个参数进行设置:
此时,我们就能使用JUST CHAT模块(也只能用这个)。
三、效果演示
我这里放了一个文件上去,让它简单总结了文件内容,大家可以自行测试。