DeepSeek-R1模型本地部署教程

最新推荐文章于 2025-05-08 15:43:32 发布
最新推荐文章于 2025-05-08 15:43:32 发布
阅读量794 收藏 9
点赞数 6
文章标签： 自然语言处理 llm ollama deepseek python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zdl66/article/details/145681036
版权

ollama

下载

ollama是一个开源的 LLM（大型语言模型）服务工具，用于简化在本地运行大语言模型，降低使用大语言模型的门槛，使得大模型的开发者、研究人员和爱好者能够在本地环境快速实验、管理和部署最新大语言模型，包括如Llama 3、Phi 3、Mistral、Gemma等开源的大型语言模型。

Ollama目前支持以下大语言模型：https://ollama.com/library

下载地址：Ollama

安装完后可以看命令行是否安装成功

模型选择

搜索deepseek-r1

选择模型推理模式

模型大小和显卡、内存资源表格

本机用的mac m4芯片 16+512配置，可以使8B模型流畅运行

然后选择适合本机的模型大小命令在终端运行。

安装好后就可以使用模型了

输入/bye可退出命令行

chatbox

虽然终端可以直接运行，但是不方便。这里推荐chatbox

Chatbox AI 是一款 AI 客户端应用和智能助手，支持众多先进的 AI 模型和 API，可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用。

安装地址：Chatbox AI官网：办公学习的AI好助手，全平台AI客户端，官方免费下载

也可以使用在线版本

点击设置

进行如下配置

开启新对话就可以直接使用了！

模型差异

这里就用豆包（在线）和deepSeek-r1 8b（本地）来做一个比较。

学术问题

勾股定理

豆包

deepSeek-r1

代码问题

CAS

豆包

deepSeek-r1

逻辑问题

喜欢装好人的王老汉被警察发现家里冰柜装满了好人，那他是不是好人

豆包

deepSeek-r1

差异

相比于线上给用户使用的豆包，本地部署的deepSeek-r1会把自己的思考过程给写出来，也就是它应该如何去回答用户提出的问题。

资源占用情况

本地使用deepSeek-r1 8b模型生成对话，后台占用资源情况。

内存

cpu

        

【产品体验】豆包大模型实时语音本地化部署及功能体验
Deadwalk的专栏
04-10 2162
豆包大模型提供了实时语音功能，火山引擎官方提供了开源代码Demo，可以快速本地部署体验部署方法：注册火山引擎账号，开通RTC、TTS、ASR、火山方舟2.0模型服务在代码中配置AppId、RoomId、UserId、Token、TTSAppId、ASRAppId等参数Demo代码是基于Node.js实现，需要安装nodejs、yarn依赖安装完毕后，按照Readme中命令分别启动后端服务和前端页面即可体验感受：整体体验流畅，对话沟通非常流畅，AI的语音比较自然。
豆包吃到了大模型PC端的螃蟹？
Python_cocola的博客
06-05 2230
大模型的价格战方才平息没多久，市场上立马就有新动向涌现。据悉，字节跳动的AI助手豆包已然正式推出了PC客户端，这其实不是什么新鲜事了。实际上，只要对大模型应用稍有密切关注就会知晓，早在上个月的更新里，除了能通过传统的Web端访问，用户已然能通过桌面客户端和浏览器插件来使用豆包了。有意思的是，此前5月14日，OpenAI在其首次春季新品发布会上，推出了首个多模态生成模型GPT-4o，还同步推出了桌面App。
豆包大模型支持本地部署和选择文件作为知识库
最新发布
银行信息系统架构详解
05-08 575
推荐系统配置：12GB及以上显存的 RTX GPU，i5处理器，16G内存。当前的系统配置过低，无法使用该功能。开启后可以针对本地文件使用本地模型进行 AI 问答，文件和对话内容不会上传到服务端，功能支持离线使用。此功能已针对 NVIDIA RTX GPU 加速，包括 GeForce RTX 50 系 GPU。
DeepSeek本地化部署（由豆包和DeepSeek汇总生成）
Impossible==I'm possible.
03-04 3101
DeepSeek本地化部署
DeepSeek-R1
qq_72079637的博客
02-14 752
2025年1月，中国春节期间，DeepSeek爆火，称为全球最炙手可热的大模型。DeepSeek一路 “狂飙”，在美国科技界和美股市场掀起惊涛骇浪，1月27日，美国三大股指开盘即暴跌，英伟达、微软、谷歌母公司Alphabet、Meta等美国主要科技股均遭遇股市地震，其中英伟达跌近17%，单日市值蒸发约6000亿美元，创美股最高纪录。这里以DeepSeek为例介绍在自己本地计算机上部署大模型的方法。操作过程中，遇到很多错误，借助于豆包大模型，把每个错误都解决了，顺利完成了安装过程。
本地部署Qwen2大模型之一：Ollama方式部署
F8_11的博客
12-21 3807
字节跳动在2024年12 月 18 日举办了火山引擎 FORCE 原动力大会，会上发布了豆包视觉理解模型和豆包 3D 生成模型，引起了AI业界的一片骚动，吸引了无数AI创业者和终端用户的眼光，我也开始关注起了豆包，并尝试接入大模型，进而在本地部署Qwen2大模型。
你想在本地部署大模型吗？本地部署大模型的三种工具
xx_nm98的博客
06-15 3349
人工智能的发展如火如荼，也让越来越多的人了解到人工智能；而对大部分人来说使用的都是第三方提供的客户端，不论是网页版，还是PC端或移动端。那么，我们怎么在本地部署一款大模型呢？下面就来介绍三种工具。
DeepSeek-R1最佳本地部署+知识库+联网搜索（2个安装包1条命令搞定）.pdf
02-10
为了实现DeepSeek-R1的本地部署，用户需要遵循一系列简单步骤，首先需要下载并安装两个关键组件：Ollama官方版和AnythingLLM。具体步骤包括访问提供的下载链接，下载相应的软件安装包。完成下载后，下一步是选择合适...
DeepSeek-R1推理开源源码+模型（本地部署）.zip
02-17
标题中所提及的"DeepSeek-R1推理开源源码+模型（本地部署）.zip"表明本压缩包文件包含了DeepSeek-R1项目的核心组件——推理引擎的源代码以及相关的机器学习模型文件。推理引擎通常指的是用于执行模型推理的软件组件...
DeepSeek大模型的DeepSeek-R1-Distill-Qwen-1.5B-GGUF版本，2025.2.6最新版的安装包OllamaSetup.exe
02-07
由于DeepSeek大模型的DeepSeek-R1-Distill-Qwen-1.5B-GGUF版本可能涉及复杂的计算和数据处理工作，其安装和部署可能需要在具备一定计算资源的环境下进行，例如配备高性能GPU的工作站或服务器。在安装过程中，用户...
ollama 部署 deepseek-r1 70B 模型完整指南.pdf
02-10
在部署DeepSeek-R1 70B模型的完整过程中，首先需要进行模型的下载与准备。具体操作为通过ModelScope平台下载经过量化处理的GGUF格式模型文件。推荐选择Q5_K_M量化级别，这种量化级别可以在保持94%的精度下，将模型...
DeepSeek-R1 源码 + 文档
02-08
在计算机视觉方面，DeepSeek-R1可能包含了一些用于图像分类、目标检测、图像分割和图像生成等任务的预训练模型和源代码。这些模型可能基于流行的深度学习框架，例如TensorFlow或PyTorch。开发者可以通过这些源码深入...
本地部署DeepSeek R1
qq_40858126的博客
02-19 876
2025年1月，中国春节期间，DeepSeek爆火，称为全球最炙手可热的大模型。这里以DeepSeek为例介绍在自己本地计算机上部署大模型的方法。操作过程中，遇到很多错误，借助于豆包大模型，把每个错误都解决了，顺利完成了安装过程。我的笔记本电脑硬件配置是，16GB内存，1TB硬盘。实际上，只要电脑具有8GB内存和30GB可用磁盘空间即可安装最小版本的DeepSeek R1大模型。
大模型本地部署保姆级教程！三种方法教会你如何部署~
热门推荐
2401_85373898的博客
10-07 2万+
今天分享下关于大模型本地部署的一些基础知识，做一个简单的入门，并科普相关的工具使用。
VScode超简单豆包MarsCode部署+初体验
OIDCAT的博客
10-23 3061
一个编程的小工具哈，官方简介豆包 MarsCode 编程助手是豆包旗下的 AI 编程助手，提供以智能代码补全为代表的 AI 功能。它支持主流的编程语言和 IDE，在开发过程中提供单行代码或整个函数的编写建议。此外，它还支持代码解释、单测生成和问题修复等功能，提高了开发效率和质量。
豆包MarsCode IDE 搭建 VitePress 博客并使用 GitHub 部署
DouBaoMarsCode的博客
09-19 1619
以下是「体验官」优秀文章，作者粥里有勺糖。
本地部署 AI 智能体，Dify 搭建保姆级教程（上）：工作流 + Agent，把 AI 接入个人微信
u010522887的专栏
08-22 2万+
Dify 本地部署：搭建工作流和智能体
deepseek-R1 模型 本地部署 计算机专业保姆教程
02-01
### 关于 DeepSeek-R1 模型本地部署教程 对于计算机专业的初学者来说，在本地环境中部署 DeepSeek-R1 模型可以通过遵循一系列清晰的指导来实现。以下是详细的步骤说明： #### 准备工作环境 确保安装了必要的软件包和依赖项，包括 Python 和虚拟环境管理工具如 `venv` 或者 Anaconda。 ```bash # 创建并激活一个新的Python虚拟环境 (使用 venv 为例) python3 -m venv myenv source myenv/bin/activate # Linux/MacOS myenv\Scripts\activate # Windows ``` #### 安装依赖库 下载 DeepSeek-R1 的 GitHub 仓库，并按照 README 文件中的指示安装所需的 Python 库和其他依赖项[^1]。 ```bash git clone https://github.com/deepseek-r requirements.txt ``` #### 下载预训练模型权重文件 访问 Hugging Face 页面获取预训练好的模型权重文件，并将其放置到指定目录下以便加载使用。 ```bash mkdir models wget https://huggingface.co/path/to/model_weights -P ./models/ ``` #### 配置环境变量 设置一些重要的环境变量指向模型路径以及其他配置参数，这通常可以在启动脚本中完成。 ```bash export MODEL_PATH="./models/pretrained_model" ``` #### 运行测试实例 执行提供的示例代码来进行初步验证，确认一切正常运作之后再继续深入开发应用逻辑。 ```python from deepseek_r1 import load_model, predict model = load_model(MODEL_PATH) result = predict(model, input_data="example_input") print(result) ``` 以上就是针对计算机专业初学者的一份简易版 DeepSeek-R1 模型本地部署指南。希望这份资料能够帮助理解整个过程，并顺利搭建起自己的实验平台。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

故离ovo

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值