DeepSeek-R1蒸馏小模型，用Ollama在本地运行跑起来

置顶简放视野

已于 2025-02-08 15:18:44 修改

阅读量4.2k

点赞数 20

分类专栏： AI-AGI 工作实战总结工作思考文章标签： DeepSeek Ollama AI LLM AIGC

于 2025-01-26 23:58:20 首次发布

本文为博主原创文章，未经博主允许不得转载。

本文链接：https://blog.csdn.net/shupili141005/article/details/145373233

版权

工作实战总结同时被 3 个专栏收录

34 篇文章

订阅专栏

工作思考

9 篇文章

订阅专栏

AI-AGI

8 篇文章

订阅专栏

# DeepSeek-R1横空出世，超越OpenAI-o1，教你用Ollama跑起来

使用Ollama在本地运行DeepSeek-R1的操作指南。

DeepSeek-R1作为第一代推理模型，在数学、代码和推理任务上表现优异，与OpenAI-o1模型不相上下。

将此类模型部署到本地，可为AI应用带来更强隐私保护、定制化和可控性。

今天指导大家如何使用Ollama——一款AI模型管理和运行工具——在本地计算机上部署并运行DeepSeek-R1。

2 Ollama：运行助手

对于许多用户来说，如何在普通笔记本电脑上运行强大的AI模型是个难题。Ollama的出现，正是为了解决这一问题。Ollama是专为本地运行大语言模型设计的工具，操作简单，即便没有深厚的技术背景，也能轻松上手。

3 开始操作：环境设置

步骤1：安装Ollama

首先，需要在你的机器上安装并运行Ollama。

操作方法如下：前往Ollama官网(ollama.com)，下载与你操作系统匹配的版本。

在这里插入图片描述

步骤2：验证Ollama安装

打开终端或命令提示符，输入：

~ ollama --version 
ollama version is 0.5.7

~ ollama 
Usage:
  ollama [flags]
  ollama [command]

Available Commands:
  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  stop        Stop a running model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
  help        Help about any command

Flags:
  -h, --help      help for ollama
  -v, --version   Show version information

Use "ollama [command] --help" for more information about a command.

步骤3：下载 DeepSeek-R1

通过 Ollama 下载 DeepSeek-R1 非常方便，运行DeepSeek-R1-Distill-Qwen-7B，在终端中运行这个命令即可：

~ ollama run deepseek-r1 
~ ollama run deepseek-r1:7b 
pulling manifest
pulling 96c415656d37...  88% ▕█████████████████████████████████████████████████       ▏ 4.1 GB/4.7 GB  6.0 MB/s   1m33s

根据你的网络速度，此过程可能耗时，请耐心等待。

在这里插入图片描述

步骤4：运行DeepSeek R1

下载完成后，就可以启动 DeepSeek-R1。使用这个命令：

~ ollama run deepseek-r1:7b 
~ ollama run deepseek-r1:14b 
>>> /?
Available Commands:
  /set            Set session variables
  /show           Show model information
  /load <model>   Load a session or model
  /save <model>   Save your current session
  /clear          Clear session context
  /bye            Exit
  /?, /help       Help for a command
  /? shortcuts    Help for keyboard shortcuts

Use """ to begin a multi-line message.

>>> Send a message (/? for help)

如此便成功在本地运行该模型！

4 体验DeepSeek-R1功能

完成部署后，接下来就是探索DeepSeek-R1的强大功能。以下是几个典型应用场景：

送礼功能

魔法棒🪄指令：

>>> /
你是一个资深的熟悉电商业务技术系统设计的架构师，请你在一个成熟的电商平台上实现一个送礼功能，即送礼用户下单购买一个商品时，不需要填写地址，送礼用户完成支付后把这个订单分享给另外一个人，比如他的朋友，由他的朋友来填写地址，然后这个订单才算完成，并开始发货履约。

5 常见问题排查

即便使用像 Ollama 这样用户友好的工具，在使用时仍可能遇到一些小问题，以下是一些常见问题的解决方法：

问题：Ollama无法找到DeepSeek-R1

如果你收到Ollama找不到DeepSeek-R1的错误提示，可尝试运行 ollama list 命令。

~ ollama list 
NAME                       ID              SIZE      MODIFIED
deepseek-r1:14b            ea35dfe18182    9.0 GB    5 days ago
gemma2:9b                  ff02c3702f32    5.4 GB    9 days ago
gemma2:2b                  8ccf136fdd52    1.6 GB    9 days ago
deepseek-r1:1.5b           a42b25d8c10a    1.1 GB    9 days ago
deepseek-r1:latest         0a8c26691023    4.7 GB    10 days ago
ggml-vocab-qwen2:latest    71dd1769087f    5.9 MB    11 days ago