DeepSeek本地部署心得

一、前言

首先我们得了解deepseek（人工智能模型）不同数据规模能干的事情，以及它需要的硬件资源配置条件,deepseek依赖GPU，这就需要你的显卡有足够大的显存容量。

查看显存大小方法：
按下Win+R打开运行对话框，输入dxdiag并按回车。

本人的笔记本电脑显卡是 RTX4060，显示内存(VRAM)为8G,所以只能选择数据规模为7B的模型。

但是实际测试下来，14B的数据规模也能跑， 只不过对话的结果要加载一会儿。

二、安装步骤

1、安装程序Ollama。 （网址：https://ollama.com）

接着我们把安装包通过管理员身份运行。

2、点击install部署安装。

安装完毕后，桌面右下角会显示图标。

3、登录网址：https://ollama.com/library/deepseek-r1
选择7B模型

复制7B模型旁边的命令： ollama run deepseek-r1:7b

4、按住“win+R”键，呼出运行窗口，输入命令powershell，进入命令行。

把第3步复制的ollama run deepseek-r1:7b命令复制到命令行中。
完成后出现“Send a message”的字样，说明成功了。此时可以关闭这个窗口。

5、进入系统属性，点击环境变量

新建两个变量：
OLLAMA_HOST ： 0.0.0.0
OLLAMA_ORIGINS ： *
6、安装 Chatbox-1.9.8-Setup

然后点击设置

按照以下三个参数进行设置：

此时，我们就能使用JUST CHAT模块（也只能用这个）。

三、效果演示

我这里放了一个文件上去，让它简单总结了文件内容，大家可以自行测试。