DeepSeek R1 本地部署指南 (6) - Windows 本地部署使用 GPU 运行

DeepSeek R1 本地部署指南 (1) - Windows 本地部署

上一篇，安装好 Windows 本地步骤后，如果发现在任务管理器中 GPU 显示 0%。

1.在命令行中输入：

ollama ps

显示：

PROCESSOR

CPU

2.安装 CUDA Toolkit

CUDA Toolkit Downloads

https://developer.nvidia.com/cuda-downloads

如图，选择系统具体类型后，点击 Download 下载安装。

3.检测 CUDA 安装成功

nvcc --version

显示 cuda_12.8

nvidia-smi

显示 CUDA Version: 12.8

4. 启动  Ollama

ollama run deepseek-r1:70b

5.参看 Ollama GPU 

ollama ps

PROCESSOR

68%/32% CPU/GPU

6.输入问答时，查看任务管理器 GPU 使用率

如图所示，GPU有33%的使用率，至此完成配置。