【DeepSeek】超详细！小白也能轻松实现的 DeepSeek-R1本地化部署 （包含WebUI）

已于 2025-04-14 16:26:48 修改
阅读量8.1k 收藏 42
点赞数 31
分类专栏： AI世界探索之旅 文章标签： python ai deepseek LLM Ollama 人工智能 AI大模型
于 2025-02-02 15:51:13 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_59415345/article/details/145420436
版权

超详细！小白也能轻松实现的 DeepSeek-R1本地化部署 （包含WebUI）

其他文章推荐
本地部署相关： 通过gpt4all进行Deepseek-R1的本地部署（附4种在线打开方式）
RAG训练与数据投喂：手把手教你使用Ollama+AnythingLLM搭建个人本地知识库RAG，可进行数据投喂
其他应用集成Deepseek: DeepSeek 实用集成

文章目录


最近，一家杭州的公司经过技术迭代与升级，发布了全新一代大模型，“DeepSeek-R1”。由于这款大模型太过好用，DeepSeek R1 更是直接免费开源，在AI发烧友圈子传播后，传到了海外社交平台、技术论坛，引发了海外网友的连连称赞。

在这里插入图片描述

在这里插入图片描述

各项性能指标更是和OpenAI-o1 模型不相上下，甚至做到了小部分的超越，关键是开源的，因此我们可以本地部署使用。

不过在本地部署之前，需要各位朋友了解的是，本地部署的功能并不能做到与在线的Deepseek完全一致，除非你的显卡非常好，不差钱。本地部署的主要目的是方便自己训练，并且可以自己控制联网，对于担心数据上传会泄露的朋友可以确保数据的安全性。

在这里插入图片描述

一、认识部署工具：Ollama

在这里插入图片描述

Ollama官网：https://ollama.com/，官方网站的介绍就一句话：Get up and running with large language models. （开始使用大语言模型。）

Ollama是一个开源的 LLM（大型语言模型）服务工具，用于简化在本地运行大语言模型、降低使用大语言模型的门槛，使得大模型的开发者、研究人员和爱好者能够在本地环境快速实验、管理和部署最新大语言模型，包括如Qwen2、Llama3、Phi3、Gemma2等开源的大型语言模型。

Ollama支持的大语言模型列表，可通过搜索模型名称查看：https://ollama.com/library

Ollama官方 GitHub 源代码仓库：https://github.com/ollama/ollama/

有些人可能会把Ollama和Llama混淆，Llama是 Meta 公司开源的备受欢迎的一个通用大语言模型，和其他大模型一样，Llama可以通过Ollama进行管理部署和推理等。

因此，Ollama与Llama的关系：Llama是大语言模型，而Ollama是大语言模型（不限于Llama模型）便捷的管理和运维工具，它们只是名字后面部分恰巧相同而已！

二、安装Ollama

1、安装Ollama

Ollama 官方版：【点击前往】

直接来到官网，根据自己需要部署的系统的类型，windows的就选windows，mac的就选择mac，进行选择下载就好。直接点击Download按钮，下载后双击安装，等待进度条结束后表示安装成功。

在这里插入图片描述

下载成功后，可能不一定会出现Ollama的图标，但是你可以在最近添加中找到，或者直接点击左下角的Window按钮，进行搜索Olliama，找到快捷方式即可。

需要注意的是，Ollama的默认安装路径为：C:\Users%username%\AppData\Local\Programs\Ollama。（这里的username就是你电脑的用户名。）

你也可以自行更改文件夹位置，但是需要配置环境变量。

2、配置环境变量（可跳过）

由于后面下载的大模型会比较占用内存空间，如果不想修改位置，直接放在C盘的，可以跳过这一步骤。如果是 Windows 系统建议修改（如：D:\OllamaModels），避免 C 盘空间吃紧。

首先，直接将文件夹移动到自己希望存放大模型的位置，比如我是放在了D:\Software\Ollama这个位置。那么就需要在环境变量中，添加上这一段文件路径。

在这里插入图片描述

接下来配置存放大模型的环境变量路径，配置好后，千万别忘记确定与保存，否则无法生效。

在这里插入图片描述

环境变量配置完成后，打开cmd窗口命令行（win+R，输入cmd），输入ollama -h指令，如果出现如下英文，那么是可以运行的，否则就看下环境变量是不是搞错了，重新配置一下。

在这里插入图片描述

3、补充：部分环境变量说明

  1. OLLAMA_MODELS：模型文件存放目录，默认目录为当前用户目录（Windows 目录：C:\Users%username%\ollama\models，MacOS 目录：~/.ollama/models，Linux 目录：/usr/share/ollama/.ollama/models）
  2. OLLAMA_HOST：Ollama 服务监听的网络地址，默认为127.0.0.1，如果允许其他电脑访问 Ollama（如：局域网中的其他电脑），建议设置成0.0.0.0，从而允许其他网络访问
  3. OLLAMA_PORT：Ollama 服务监听的默认端口，默认为11434，如果端口有冲突，可以修改设置成其他端口（如：8080等）
  4. OLLAMA_ORIGINS：HTTP 客户端请求来源，半角逗号分隔列表，若本地使用无严格要求，可以设置成星号，代表不受限制
  5. OLLAMA_KEEP_ALIVE：大模型加载到内存中后的存活时间，默认为5m即 5 分钟（如：纯数字如 300 代表 300 秒，0 代表处理请求响应后立即卸载模型，任何负数则表示一直存活）；我们可设置成24h，即模型在内存中保持 24 小时，提高访问速度
  6. OLLAMA_NUM_PARALLEL：请求处理并发数量，默认为1，即单并发串行处理请求，可根据实际情况进行调整
  7. OLLAMA_MAX_QUEUE：请求队列长度，默认值为512，可以根据情况设置，超过队列长度请求被抛弃
  8. OLLAMA_DEBUG：输出 Debug 日志标识，应用研发阶段可以设置成1，即输出详细日志信息，便于排查问题
  9. OLLAMA_MAX_LOADED_MODELS：最多同时加载到内存中模型的数量，默认为1，即只能有 1 个模型在内存中

三、安装Deepseek-R1

首先咱们还是来到Ollama官网，点击左上角的Models英文。

在这里插入图片描述

这里会出现很多AI大模型可供下载，本次我们选择的是DeepSeek-R1这个模型，点击进去。

在这里插入图片描述

可以看到，这个模型的版本也有很多，诸如1.5b、7b等等，越大表示参数越多，也就更加的智能化，后面的GB是大小，671b的已经达到了404个GB，建议个人还是下载较为轻量化的。

1.5B Qwen DeepSeek R1（显卡内存低于4G推荐）

ollama run deepseek-r1:1.5b

7B Qwen DeepSeek R1（显卡内存8-12G推荐）

ollama run deepseek-r1:7b

8B Llama DeepSeek R1（显卡内存8-12G推荐）

ollama run deepseek-r1:8b

14B Qwen DeepSeek R1（显卡内存12-24G推荐）

ollama run deepseek-r1:14b

32B Qwen DeepSeek R1（显卡内存大于24G推荐）

ollama run deepseek-r1:32b

70B Llama DeepSeek R1（不推荐本地部署）

ollama run deepseek-r1:70b

在这里插入图片描述

根据个人情况点击需要下载的模型，可以在右边看到有一串命令变了，然后我们点击复制这个按钮，复制这个命令。

在这里插入图片描述

来到我们刚刚打开的cmd控制台，将命令粘贴进去，回车运行该命令，Deepseek-R1就进行下载了。这里的速度会比较慢，因为Ollama并不是国内的站点，如果你有科学上网的办法，可以稍微快一点，耐心等待片刻即可。

在这里插入图片描述

下载成功后会显示如下信息，看到最下面有一个success，那么就是成功了。

在这里插入图片描述

在这给控制台窗口就可以和Deepseek对话了。

在这里插入图片描述

四、安装可视化WebUI

为了有更加良好的体验，下面介绍一下如何在网站上，与Deepseek进行交流。

1、安装Node

这一步可以参考我之前的文章，只需要能够运行node即可。跳转链接

2、下载代码包

这一步我已经把代码包放到了网盘里面，直接下载即可。
链接：https://pan.quark.cn/s/b9df7f6cb94d
提取码：6GYv

3、运行代码包

代码包下载好，并且解压后，打开这个文件夹，确保里面的内容与下面图片的内容类似，防止解压后存在文件夹嵌套的情况。

在这里插入图片描述

在文件夹的路径中输入cmd，打开控制台。

在这里插入图片描述

输入命令npm install进行依赖包的安装，回车执行，显示如下内容就是成功了。

在这里插入图片描述

再次运行命令npm run dev进行代码的执行，如果出现如图所示的两个链接，那么就是成功了。你可以直接按住ctrl与鼠标点击进行打开。

在这里插入图片描述

打开后的效果如下。

在这里插入图片描述

你可以在这里切换大模型，我们选中刚刚下载好的Deepseek-R1，试试效果如何。

在这里插入图片描述

能够进行聊天回复，这样就表示成功啦。

在这里插入图片描述

五、总结

Deepseek-R1的这个模型功能是非常强大的，但是本地部署，确实比较烧显卡，并且对于个人来说，内存也是一个很大的问题。据主创团队的消息表示，他们正在进行优化，不知道后续是否能够进行压缩所需的成本。

后续我会研究一下，如何在本地化部署后，进行个人知识库的训练，如果成功的话，我会继续更新的，希望大家能够多多关注。

到此，Deepseek-R1模型的本地化部署就完成了，如果有问题可以在评论区留言。后续我会继续更新其他的相关内容，可以点个关注留意一下。如果觉得这篇文章有用，能够给你带来帮助，请点赞、收藏、关注一下，谢谢！！！最后祝您新年快乐！

六、补充内容

1、Ollama上的蒸馏模型评估

蒸馏模型可以理解为精简版本

模型AIME 2024 通行证@1AIME 2024 缺点@64MATH-500 通过@1GPQA 钻石通行证@1LiveCodeBench 通行证@1CodeForces 评级
GPT-4o-05139.313.474.649.932.9759
克劳德-3.5-十四行诗-102216.026.778.365.038.9717
o1-mini63.680.090.060.053.81820
QwQ-32B-prev44.060.090.654.541.91316
DeepSeek-R1-Distill-Qwen-1.5B28.952.783.933.816.9954
DeepSeek-R1-Distill-Qwen-7B55.583.392.849.137.61189
DeepSeek-R1-Distill-Qwen-14B69.780.093.959.153.11481
DeepSeek-R1-Distill-Qwen-32B72.683.394.362.157.21691
DeepSeek-R1-Distill-Llama-8B50.480.089.149.039.61205
DeepSeek-R1-Distill-Llama-70B70.086.794.565.257.51633

2、Ollama的管理指令补充

【展示本地大模型列表：ollama list】

【删除单个本地大模型：ollama rm 本地模型名称】

【启动本地模型：ollama run 本地模型名】

【查看本地运行中模型列表：ollama ps】

【复制本地大模型：ollama cp 本地存在的模型名 新复制模型名】

3、Ollama客户端接口

Ollama 默认提供了generate和chat这 2 个原始的 API 接口，使用方式如下：

  1. generate接口的使用样例：
curl http://localhost:11434/api/generate -d "{
  'model': 'qwen:0.5b',
  'prompt': '为什么天空是蓝色的？'
}"
  1. chat接口的使用样例：
curl http://localhost:11434/api/chat -d '{
  "model": "qwen:7b",
  "messages": [
    { "role": "user", "content": "为什么天空是蓝色的？" }
  ]
}'

4、DeepSeek使用技巧

  1. 讲清楚目标
    不需要给模型详细的步骤，只需定义清晰的目标。
  2. 提供背景信息
    避免让模型猜测，明确任务背景以获得更精准的解决方案。
  3. 找到元问题
    让模型反向提问，帮助深入思考和规划。
  4. 要求风格
    指定风格或对标人物，让输出更具个性。
  5. 规定知识状态
    让模型根据受众的知识水平调整表达方式。
  6. 转换视角
    借助名⼈思维或不同角色的视角解决问题。
  7. 批判性思维
    利用模型挑毛病或辩证思考，评估方案和决策。
  8. 开放讨论
    提出开放性问题，探索深刻和本质的思考。

参考文档：

Ollama中文文档。

凯凯呀~的博客。

DeepSeek R1本地化部署与联网功能实战指南：从零搭建智能对话系统
理论都是虚的，代码才是王道。
01-28 7万+
在人工智能技术快速发展的今天，如何将先进的对话模型DeepSeek R1部署到本地环境并赋予其联网能力，成为许多开发者和企业关注的重点。本文将深入讲解完整的本地化部署流程，并通过实例代码演示如何为模型添加实时网络访问功能。
【实战篇】deepseek r1 完全本地部署实战教程
02-06 3300
最近 deepseek r1 可是相当火爆，好多小伙伴都想在自己电脑上部署，体验一把强大的 AI 模型。今天咱就来详细讲讲，怎么把 deepseek r1 完完全全部署到本地，新手小白也能轻松上手！
【清晰教程】通过Docker为本地DeepSeek-r1部署WebUI界面
Frost_Descent的博客
02-07 1万+
其功能强大，支持 Markdown 和 LaTeX、本地 RAG 集成、多语言、多模型对话、网络搜索和图像生成集成，还具备语音和视频通话功能，满足多样化需求。基于本地部署的 DeepSeek 能提供高度的灵活性和定制化能力，支持多语言、可扩展的插件功能，能够根据用户需求优化性能和配置。它为开发者、研究者和企业提供了便捷的 AI 应用部署和访问方式，尤其适合对数据隐私要求较高的场景，能够快速搭建生成式 AI 应用，具有不错的用户体验。创建管理账户，设置账号，邮箱，密码。进入UI界面，开始使用。
一文玩转本地化部署DeepSeek！
huang9604的博客
02-04 1万+
本文将详细介绍如何本地化部署DeepSeek，并应用于生活和工作。在大多数情况下，优先推荐官网chat或者官网API调用，效果更佳。本文的主要面向场景在于：免费、稳定、高效且隐私安全。
公司数据不泄露，DeepSeek R1本地化部署+web端访问+个人知识库搭建与使用，喂饭级实操教程，老旧笔记本竟跑出企业级AI
m0_63171455的博客
01-31 3万+
目前Ollama支持macOS、Linux、Windows，选择相应的系统，macOS和Windows直接下载，Linux系统需要执行下面命令：荣姐这次选择Windows本地下载，直接安装即可。点击Models，第一条就是deepseek-r1模型。或者搜索框输入模型名称进行搜索。点击进去后，查看各个模型，不同模型执行的命令不同，最后部分看你选择的参数模型。7b命令：ollama run deepseek-r1:7b1.5b命令：ollama run deepseek-r1:1.5b。
无需GPU！三步实现DeepSeek开源模型本地化部署。
m0_48891301的博客
02-05 2万+
deepseek和chatGpt最大的区别就在于，它是开源的模型，并且训练成本更低，这使得我们普通人也能够在自己的电脑部署大语言模型，训练自己的AI智能体。我们需要谨记的就是，AI是工具，是为了提高我们的效率，它能够给我们提供更精确，更具逻辑的回答，你再根据自身的需求进行修改和采用。最近Deepseek访问量剧增，导致App时常访问不了，但是不用担心，官方给我们提供了本地部署大模型的方案。
最强开源大模型炸场！全网独一份AI大模型学习实践资源...（待会删）
Y525698136的博客
08-07 1406
最强开源大模型炸场！全网独一份AI大模型学习实践资源...（待会删）
deepseek 本地化部署和小模型微调
陈锐的技术笔记
02-03 1万+
因为本人gpu卡的机器系统是centos 7, 直接使用ollama会报所以ollama使用镜像方式进行部署， 拉取镜像ollama/ollama启动命令查看ollama 是否启动成功，Ollama 没有用户界面，在后台运行。打开浏览器，输入 “http://xx:11434/”，显示 “Ollama is running”。deepseek-r1 目前有7b, 32b, 70b, 671b 多个版本
通过宝塔本地化部署deepseek|可视化界面操作一键本地部署deepseek
小小鱼儿小小林的博客
02-09 3077
最近deepseek开源了，非常强，能力和OpenAI不相上下，甚至在编码、数学等方面一度超过了OpenAI的ChatGPT，既然开源了，很多人就想着本地化部署，毕竟deepseek官网是公开的，就会有很多限制，很多问题因为一些原因AI肯定是没法回答的。但是如果是本地化部署的话，一些私密性的问题就能直接问了今天出一个教程，通过宝塔本地化部署deepseek
【AI】Deepseek本地部署探索，尝试联网搜索
qq_19915249的博客
01-30 1万+
本地部署deepseek-r1蒸馏模型，并接入联网功能
DeepSeek 资料大全，火火火！
AIGC搞起
02-11 2171
DeepSeek是一款高性能、开源的人工智能模型，具备强大的自然语言处理和多模态分析能力，支持文本、图像、视频等多种数据类型。其采用混合专家网络（MoE）等先进技术，训练和推理成本低，推理速度快。DeepSeek的开源策略降低了AI开发门槛，让更多开发者和企业能够低成本地开发AI应用。相比其他大模型，DeepSeek在复杂推理任务中表现优异，且完全免费，具有更高的性价比。
DeepSeek本地化部署：3步搞定，让你的AI体验更稳定
2301_81888214的博客
02-04 3万+
通过本地化部署，用户可以在自己的设备上运行DeepSeek模型，无需依赖外部网络连接，从而实现更稳定、更可靠的使用体验。
DeepSeek本地化部署全攻略，轻松拥有专属 AI 助手
zhishi0000的博客
02-06 8387
可能大家都想学习AI大模型技术，也想通过这项技能真正达到升职加薪，就业或是副业的目的，但是不知道该如何开始学习，因为网上的资料太多太杂乱了，如果不能系统的学习就相当于是白学。2.页面下拉，根据自己电脑的配置选择合适的参数规模（7b 代表 70 亿参数，14b 代表 140 亿参数，参数越多，模型越大，效果理论上也会更好，但对电脑配置要求也更高），然后复制对应的下载命令。观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。
Deepseek本地化部署指南
weixin_42518660的博客
02-02 4771
Deepseek本地化部署指南，chrome插件webUI
DeepSeek本地部署+WebUI可视化+数据投喂训练AI之新手保姆级教程，建议收藏！
热门推荐
2401_85390073的博客
02-09 4万+
最近国产大模型DeepSeek特别火，以至于频繁出现反应迟缓甚至宕机的情况，和两年多之前ChatGPT的遭遇颇为相似。万幸，DeepSeek是一个开源模型，我们大可以通过本地部署，在自己的终端上随时使用！接下来就教大家具体的操作：一、DeepSeek本地部署二、WebUI可视化三、数据投喂训练AI**1、安装Ollama**首先我们需要安装Ollama，它可以在本地运行和管理大模型。
DeepSeek本地化部署
最新发布
默默的博客
03-12 1026
DeepSeek 是中国本土开发的 AI 大模型，涵盖通用 LLM（DeepSeek-V2）和代码 LLM（DeepSeek Coder）。支持本地运行，适合隐私保护场景，可以用 Ollama 部署。对中文支持优秀，在 代码、SQL、Shell、数学推理 等方面表现不错。适合开发者、企业、本地 AI 研究人员，尤其是想要开源替代 GPT-4 的用户。✅ Ollama 让你可以 在本地运行 AI 模型，无需依赖云端 API，保护隐私，并且 安装简单、运行高效。
本地部署 DeepSeek 模型并使用 WebUI 调用
llhllq2015的博客
01-31 3340
本文将详细介绍如何在本地部署DeepSeek 模型，并通过WebUI调用该模型。我们将使用open-webui作为 Web 界面工具，展示如何将 DeepSeek 模型集成到 WebUI 中，并提供一个用户友好的交互界面。通过本文的步骤，你可以成功在本地部署 DeepSeek 模型，并通过open-webui提供一个用户友好的 Web 界面。这种方法适用于需要本地化部署和私有化调用的场景，能够有效保护数据隐私并提升模型推理效率。
windows11系统ollama open webui本地部署
02-22
### 在 Windows 11 上本地部署 Ollama Open WebUI #### 准备工作 为了成功在 Windows 11 上部署 Ollama 和 Open WebUI，确保已经安装 Docker Desktop 并配置好 WSL2 (Windows Subsystem for Linux 2)[^3]。 #### 获取并启动容器 通过 Docker 命令获取官方镜像文件，并设置端口映射以及卷挂载： ```bash docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway \ -v open-webui:/app/backend/data --name open-webui --restart always \ ghcr.io/open-webui/open-webui:main ``` 这条命令会下载最新版的 `open-webui` 容器镜像到本地，并以后台模式运行它。同时指定了将主机上的 3000 端口转发给容器内的 8080 端口，允许外部访问应用界面；还创建了一个名为 `open-webui` 的数据卷用于持久化存储用户上传的数据。 #### 使用 CMD 进行交互测试 对于希望直接利用命令提示符与模型交流的情况，在确认已正确设置了环境变量的前提下，可以尝试如下指令调用特定版本的语言模型服务: ```cmd ollama run deepseek-r1:7b ``` 这将会启动指定参数下的 LLM 实例供即时查询使用[^4]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值