很多朋友在公司使用deepseek总是“服务器繁忙,请稍后再试”,导致很多工作上的事情无法及时完成,那有没有方法能够解决这一问题。其实很简单,因为deepseek可以部署到本地,但公司电脑可能支撑不住,所以可以在家部署deepseek,公司端通过内网穿透访问家里局域网,从而快速使用deepseek。具体步骤如下:
1、安装设置LM Studio
进入LM Studio,选择对应系统的版本,按引导一键安装。
启动LM Studio,点击右下角设置,在App Settings将语言切换为中文,并启用“Use LM Studio's Hugging Face Proxy”选项以加快模型下载速度。
接着,在“Model Search”中搜索DeepSeek关键词,选择所需模型,点击右下角“Download”下载到本地。
目前可选1.5B、7B、8B、14B、32B、70B、671B(满血版)参数大小的模型。参数越大,性能越强,对显卡和显存要求越高。为保证响应速度,4GB显存建议选1.5B模型,8GB可选7B,16GB可选14B,推荐7B以上模型。
完成上述步骤即可本地使用。若要远程调用LM Studio中的DeepSeek模型,需进入开发者选项卡,在“Settings”中开启“启用CORS”和“在局域网内提供服务”,允许局域网访问LM Studio API服务。
2、安装内网穿透工具—安全坞
①下载与安装
家里电脑:安装安全坞window版。
公司电脑:安装安全坞window版。
②配置设备与账号绑定
家里电脑:打开安全坞,点击“允许远程接入”,并复制识别码发送给公司电脑。
公司电脑:输入公司的识别码,点击连接。
③启动并首先远程访问deepseek
下载 AnythingLLM来调用 LM Studio 部署的 DeepSeek 模型。在 AnythingLLM 的设置中,将“LM Studio Base URL”配置为服务器的局域网 IP 地址和端口(如 http://服务器IP:1234/v1)