使用安全坞+LM Studio远程访问家里的deepseek

很多朋友在公司使用deepseek总是“服务器繁忙,请稍后再试”,导致很多工作上的事情无法及时完成,那有没有方法能够解决这一问题。其实很简单,因为deepseek可以部署到本地,但公司电脑可能支撑不住,所以可以在家部署deepseek,公司端通过内网穿透访问家里局域网,从而快速使用deepseek。具体步骤如下:

1、安装设置LM Studio

进入LM Studio,选择对应系统的版本,按引导一键安装。

启动LM Studio,点击右下角设置,在App Settings将语言切换为中文,并启用“Use LM Studio's Hugging Face Proxy”选项以加快模型下载速度。

接着,在“Model Search”中搜索DeepSeek关键词,选择所需模型,点击右下角“Download”下载到本地。

目前可选1.5B、7B、8B、14B、32B、70B、671B(满血版)参数大小的模型。参数越大,性能越强,对显卡和显存要求越高。为保证响应速度,4GB显存建议选1.5B模型,8GB可选7B,16GB可选14B,推荐7B以上模型。

完成上述步骤即可本地使用。若要远程调用LM Studio中的DeepSeek模型,需进入开发者选项卡,在“Settings”中开启“启用CORS”和“在局域网内提供服务”,允许局域网访问LM Studio API服务。

2、安装内网穿透工具—安全坞

下载与安装

家里电脑:安装安全坞window版

公司电脑:安装安全坞window版

配置设备与账号绑定

家里电脑:打开安全坞,点击“允许远程接入”,并复制识别码发送给公司电脑

公司电脑:输入公司的识别码,点击连接

启动并首先远程访问deepseek

下载 AnythingLLM来调用 LM Studio 部署的 DeepSeek 模型。在 AnythingLLM 的设置中,将“LM Studio Base URL”配置为服务器的局域网 IP 地址和端口(如 http://服务器IP:1234/v1

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值