一、版本说明
-
671B 满血版:完整参数模型,需高性能硬件,适合追求极致效果的用户。
-
蒸馏版:参数量减少的轻量版,资源需求低,适合普通GPU或CPU部署。
二、硬件需求
-
671B 满血版:
-
GPU:至少2张 A100 80G(需NVLink)或更高配置。
-
内存:64GB+ RAM。
-
存储:1TB+ SSD(模型文件约600GB)。
-
-
蒸馏版:
-
GPU:单卡 RTX 3090/4090(24G显存)或更低。
-
内存:32GB RAM。
-
存储:100GB+ SSD(依版本而定)。
-
三、环境准备
-
系统要求:Linux (推荐 Ubuntu 20.04+),Windows需WSL2。
-
安装依赖:
# 基础工具 sudo apt-get install git python3.10-venv # 创建虚拟环境 python -m venv deepseek-env && s