近日,国产AI DeepSeek-R1受到广泛关注,但常用DeepSeek的用户会发现,你问它一些问题,有时候经常会出现“服务器繁忙,请稍后再试”的回复消息,主要原因是用户访问量过大,DeepSeek-R1服务器无法满足大量用户的并发需求导致的。
面对这种情况用户可以搭建一套属于自己的DeepSeek-R1,因为他支持本地及私有化部署,在结合快解析内网穿透方案即可实现快速应用,并且数据仅存储于本地,不会上传第三方云端服务器或对外公开,有安全保障。
下面简单介绍一下私有部署DeepSeek-R1的方法和通过快解析实现DeepSeek-R1外网应用的方案。
一、DeepSeek-R1私有部署方法
1.1、下载、安装ollama
Ollama 是一个专注于本地部署大型语言模型的工具,进入Ollama官网下载电脑系统对应的ollama客户端,然后进行安装
1.2、下载安装DeepSeek-R1模型
进入Ollama官网下载页面,选择本地需要部署的DeepSeek-R1模型参数,根据自己本地的硬件配置自行选择,点击后面的复制按钮,复制下载命令。
在选择模型参数的时候可根据自己的电脑配置进行选择,版本越高对电脑的配置要求越高,以下电脑配置做参考
打开cmd,输入上个步骤中复制的命令,下载、安装DeepSeek-R1模型
下载安装完DeepSeek-R1模型后在开始菜单搜索“环境变量”,在“系统变量” 或“用户变量” 中分别点击“新建”,变量名填入“OLLAMA_HOST”,变量值填入“0.0.0.0”,并重启Ollama。【这一步配置很重要,如果不进行配置可能无法应用】
1.3、下载可视化工具Chatbox
打开chatbox官网,根据您的电脑系统选择需要的版本下载即可,下载完双击安装
安装好后打开会弹出配置页,模型选择你安装好的模型参数
做完以上配置后就可以在自己的电脑上使用私有部署的 DeepSeek-R1 了
二、快解析实现远程访问本地部署的DeepSeek-R1
做完以上操作就可以在本机使用私有部署的DeepSeek-R1了,但如果在外网其他电脑也想使用这个私有部署的DeepSeek-R1,我们可以在这台私有部署的DeepSeek-R1电脑安装一个内网穿透快解析产品,将您本地应用的DeepSeek-R1发不到广域网应用。
2.1、部署内网穿透快解析
快解析的下载、安装、注册、登陆、映射端口教程请参考快解析使用教程,部署快解析后我们需要在快解析软件上点击添加映射,映射DeepSeek-R1服务器对应的通信端口11434
点击确定后,请记住快解析提供的访问地址,这个地址用于外网访问您部署的私有DeepSeek-R1
2.2、Chatbox配置DeepSeek-R1外网访问地址
重新打开Chatbox客户端工具API域名填写如上快解析提供的地址,然后点击保存
到此外网就可以远程使用您私有部署的DeepSeek-R1了,再无“服务器繁忙”的困扰了。