如何在本地部署DeepSeek-R1模型?

笔者已经使用DeepSeek已经有一段时间了,总体使用感受是不错的,推理和计算的能力很强,但是,在使用过程中经常会遇到“服务器繁忙,请稍后再试”的问题,然后就是漫长的等待与重试的过程,让人很苦恼。

好在有了Olama+Chatbox组合,可以有效解决“服务器繁忙,请稍后再试”的问题,Olama可以在本地部署DeepSeek-R1模型,Chatbox可以连接本地模型,方便在图形操作界面与AI交互对话。

下面一起学习DeepSeek如何实现在本地部署和应用,操作比较简单,仅需三步即可完成DeepSeek本地部署,实现过程如下:

  1. 安装Ollama
  2. 下载DeepSeek模型
  3. 安装和配置Chatbox

一、安装Ollama

先打开Ollama官网,官网的地址如下,点击Download下载。
https://ollama.com/

这里我选择的操作系统是Windows 系统。

点击下载即可,但是从官网下载安装程序需要很久的时间,我已经提前将安装文件下载下来,「OllamaSetup.exe」链接:https://pan.quark.cn/s/ae595258a822,保存下载即可使用。

安装程序下载以后,双击下载的 OllamaSetup.exe 文件,开始安装。

点击Install开始安装,默认是安装到C盘里,需要提前预留C盘的空间。

如下是安装的过程,整个安装过程持续三分钟左右。

安装完成后,验证一下Ollama 有没有安装成功,在电脑上使用Win+R 键,输入cmd,点击确定。

在命令行里面输入如下的命令:ollama -v,当显示版本信息时,表明Ollama已经安装好了。

二、安装 DeepSeek-R1 模型

还是回到Ollama的官网主页,找到模型DeepSeek-R1,点击进去。

可选的DeepSeek-R1模型选项有1.5B、7B、8B、14B、32B、70B,这些数字代表模型的参数量,参数量越大,模型越复杂,需要更多的计算资源和内存,对于本地部署来说,参数量越大的模型对硬件的要求越高。

如果你不知道自己的笔记本配置可以适配哪个模型,可以用DeepSeek帮你解决,在系统设置里面找到自己的设备规格,截图即可,然后发给DeepSeek,输入下面的提示词。

图片所示是我的电脑配置,我想要安装DeepSeek-R1的模型,可选的模型有
DeepSeek-R1-Distill-Qwen-1.5B、7B、8B、14B、32B、70B,请根据我的机型,推荐一个适合我的电脑配置安装的模型。

上面DeepSeek给我推荐的是1.5B的版本,所以我这里安装的是1.5B版本,以安装1.5B版本的模型为例,在电脑上按下 Win + R 键,输入 cmd,点击确定,输入以下命令下载所需版本的 DeepSeek 模型,并按回车执行:

ollama run deepseek-r1:1.5b

等待一段时间直到下载和初始化完成,这个过程会比较慢,耐心等待。

当模型安装成功后,会显示success的字样,表明本地模型已经部署成功,不过这种方式仅在本地部署模型与模型交互,并没有联网查询的功能。

下面测试一下功能,输入“帮我设计一个上海周边一日游路线”,可以看到模型很快就得出了答案,不会出现服务器繁忙的情况。

DeepSeek本地部署完成,如果关闭命令行以后,你想再次对话的时候,还是在命令中输入下面的命令,就可以继续发送给命令进行对话。

ollama run deepseek-r1:1.5b

上面的模型已经部署到了本地,并且可以正常应用,但是,在实际使用时界面不够美观,交互式不够强,可以利用第三方应用程序如 ChatBox 来增强用户体验,使其更加直观易用。

三、安装与配置Chatbox AI

安装Chatbox AI可以打开如下的Chatbox AI官网,点击免费下载,下载好安装程序。
https://chatboxai.app/zh

Chatbox AI的安装程序我已经提前下载好了,点击链接保存下载,「Chatbox-1.9.8-Setup.exe」
链接:https://pan.quark.cn/s/c52e910a12b9

下载好应用程序后,双击即可安装,这里选择仅为我安装,点击下一步。

安装位置我这里选择了默认安装。

然后等待安装即可。

如下表明Chatbox AI已经安装好了,点击完成,运行Chatbox AI。

接下来,需要配置DeepSeek模型,打开Chatbox AI界面如下。

点击主页中设置选项,在模型提供方选择 Ollama API,API域名中填写http://localhost:11434,这是Ollama的默认端口,模型名称填写与部署的DeepSeek模型版本一致的名称,如deepseek-r1:1.5b。

然后还可以对话选项中设置用户名的头像,以及新对话的默认提示,点击保存即可。

以上,整体完成了在本地部署DeepSeek-R1模型,且搭配Chatbox AI客户端界面,整个安装过程都是很简单的,接下来就可以友好地在本地使用DeepSeek-R1模型,Chatbox AI客户端支持在DeepSeek网页中的所有功能,快来试试。

DeepSeek学习手册:

「DeepSeek从入门到精通」链接:夸克网盘分享

「DeepSeek...清华大学.pdf」链接:夸克网盘分享

「2025 DeepSeek自学手册:从理论到实践」链接:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值