DeepSeek本地化部署（由豆包和DeepSeek汇总生成）

Zhen (Evan) Wang

已于 2025-04-17 14:41:29 修改

阅读量2.4k

点赞数 3

文章标签：人工智能 AI-native AIGC

于 2025-03-04 14:31:58 首次发布

本文链接：https://blog.csdn.net/wzcool273509239/article/details/146015283

版权

由于个人的机器无法满足满血版本的安装的硬件要求，重新写了一篇本地化部署蒸馏版的博客，里面提供了更具体的安装步骤：DeepSeek r1蒸馏版本地化部署-CSDN博客

一、注意事项

模型选择
- 根据硬件配置选择模型版本（显存需求：7B 需 10GB+，32B 需 40GB+）。
- 低配置用户可尝试量化模型（如q4_0量化，显存降至 6GB）。
依赖管理
- 安装包需包含 CUDA、PyTorch 等依赖，或在安装时检测并提示用户安装。
安全与许可
- 确保打包内容符合 DeepSeek 开源协议，避免商业滥用。

二、本地化部署方案

方法 1：使用 Ollama 工具（推荐）

安装 Ollama
- 下载地址：Ollama 官网
- 安装后设置环境变量（避免模型存储在 C 盘）：
  收起
  
  bash
```
OLLAMA_HOST=0.0.0.0  # 允许远程访问
OLLAMA_MODELS_PATH=D:\AI_Models\deepseek-R1  # 自定义存储路径
```
下载并部署 DeepSeek 模型
- 打开终端（管理员权限），执行以下命令：
  收起
  
  bash
```
ollama run deepseek-r1:7b  # 根据硬件选择模型版本（如7B/14B/32B）
```
- 等待模型下载完成（约 15-30 分钟）。
验证部署
- 在终端输入问题测试模型：
  收起
  
  bash
```
ollama run deepseek-r1 "你好，DeepSeek！"
```

方法 2：手动部署（适合开发者）

克隆代码库

收起

bash

git clone https://github.com/deepseek-ai/deepseek.git
cd deepseek

安装依赖

收起

bash
```
pip install -r requirements.txt
```
下载模型文件
- 从 DeepSeek 官方获取预训练模型，保存至models/目录。

配置环境变量

收起

bash

export MODEL_PATH=models/deepseek_model.pth
export CUDA_VISIBLE_DEVICES=0  # 指定GPU

运行模型

收起

bash

python run.py --model_path $MODEL_PATH --input "你的输入文本"

三、打包到安装包

步骤 1：准备打包工具

Windows：使用 Inno Setup 或 NSIS。
Linux：使用 dpkg 或 rpm 工具。
MacOS：使用 PackageMaker。

步骤 2：封装部署文件

打包内容
- Ollama 安装包（或 DeepSeek 源码）。
- 预训练模型文件（建议分卷压缩，避免单个文件过大）。
- 部署脚本（如.bat或.sh文件）。
- 环境配置文件（如Modelfile）。

编写安装脚本

Windows 示例（批处理）：

收起

batch

@echo off
echo 正在安装DeepSeek...
echo 1. 安装Ollama...
start /wait ollama-setup.exe /S
echo 2. 下载模型...
powershell -Command "Invoke-WebRequest -Uri https://ollama.com/models/deepseek-r1:7b -OutFile D:\AI_Models\deepseek-r1\model.pth"
echo 3. 配置环境变量...
setx OLLAMA_MODELS_PATH "D:\AI_Models\deepseek-R1" /M
echo 安装完成！
pause