DeepSeek本地部署教程和局域网访问(手把手教程)

现在DeepSeek比较火,可以将模型安装在自己电脑上进行使用。害怕有隐私泄露安全隐患的话,可以本地部署一个试试。

NVIDIA CUDA Toolkit下载(CUDA Toolkit 12.4 Update 1 Downloads | NVIDIA 开发者https://developer.nvidia.cn/cuda-downloads

访问Ollama官网(https://ollama.com)根据自己电脑的系统,选择下载

下载之后执行安装,等ollam安装完毕后。

2060 4GB显卡以上可以安装7b参数
2080 4GB显卡以上可以安装8b参数
3060 6GB显卡以上可以安装14b参数
4080 12GB显卡以上可以安装32b参数
4090 24GB显卡2块以上可以安装70b参数
下载完毕后,就可以在命令行与deepSeek的AI进行对话了。


 curl http://192.168.0.1:11434/api/chat -d '{
>>   "model": "deepseek-r1:8b",
>>   "messages": [
>>     { "role": "user", "content": "你是谁?" }
>>   ],
>>   "stream": false
>> }'

五、使用ChatbotAi图形化工具

下载ChatbotAi(Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载)

下载安装后即可打开使用

重点来啦:启用局域网访问

OLLAMA_HOST=0.0.0.0
OLLAMA_ORIGINS=*

设置好环境变量后,重新打开终端,停止ollam再重启服务

ollam stop     #停止
ollama serve   #启动

局域网内其他用户使用配置如下:

如果为下载安装ChatbotAi工具,也可以通过网页访问

Chatboxchatboxhttps://web.chatboxai.app/

开通局域网访问详情可查看  ChatbotAi文档

要在Windows 10上本地部署DeepSeek并实现局域网访问,可以按照以下步骤操作: ### 步骤一:准备环境 1. **安装Python** DeepSeek通常依赖于Python环境。请先确认您的系统已经安装了最新版本的Python,并将其添加到系统的PATH环境中。 2. **安装必要的库工具** - 安装Git用于克隆项目仓库。 - 使用`pip install virtualenv`命令来创建虚拟环境以隔离项目的包管理。 3. **获取源码** 打开命令行窗口,通过git将官方提供的DeepSeek仓库下载下来: ```bash git clone [repository URL] cd deepseek-directory ``` 4. **配置虚拟环境** 创建一个新的虚拟环境并在其中激活它: ```bash python -m venv env .\env\Scripts\activate ``` 5. **安装依赖项** 进入项目目录后,运行以下指令自动拉取所需的Python库文件: ```bash pip install -r requirements.txt ``` ### 步骤二:启动服务端口及设置对外暴露 6. **修改应用监听地址** 默认情况下Web应用程序可能会只接受来自本机(`localhost`)的连接请求;为了让其他设备能够从外部网络连进来,则需要更改为所有IP都允许的状态如`0.0.0.0`.这一步具体取决于您所使用的框架(例如Flask、Django等),可以在其文档里查找如何更改绑定主机名的相关信息。 7. **防火墙规则调整** 确保已关闭或适当开放防火墙对于指定端口号的数据传输权限。如果启用了Windows Defender或其他第三方安全软件,请检查是否阻挡了相应的TCP/IP通讯协议段落. 8. **开启路由器端口转发功能 (如有必要)** 如果是在家庭Wi-Fi环境下进行部署并且希望公网用户也能直接访问的话还需要登录到自家宽带猫/路由界面内找到对应的“WAN”、“LAN”的映射表单页面增加新的条目指向私有IPv4值加上上面提到过的HTTP(S)默认占用位置数字组合起来形成最终URL路径供测试验证之用即可完成整个过程啦! 9. **启动服务器程序** 根据具体的项目说明,在终端中输入适当的命令来启动服务器。比如如果是基于FastAPI构建的应用,可能就是 `uvicorn main:app --host 0.0.0.0`. --- 以上就是在Windows 10操作系统下部署DeepSeek并通过局域网让其他电脑能正常访问的基本流程。当然每个环节的具体细节会因为实际选择的技术栈有所差异,建议参考官方文档获取最准确的操作指南。 --
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值