【deepseek】deepseek-r1本地部署-第三步：下载模型

最新推荐文章于 2025-02-22 10:31:43 发布
最新推荐文章于 2025-02-22 10:31:43 发布
阅读量8k 收藏 2
点赞数 3
文章标签： ai deepseek
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_34217861/article/details/145389121
版权

一、背景

        建议的模型有1.5B、8B、32B三种。其中1.5B轻量级，适合无独显的环境；8B适合带独显的环境；32B的超大杯适合专业开发环境，其推算准度比gpt弱10%。
二、操作
1、LM Studio开发模式切换

模式名字

Power User

 2、下载模型

模型名字

DeepSeek-R1-Distill-Llama-8B-GGUF

3、下载完成

三、总结

        按需选择合适的bit的模型，否则会跑不动。

Evenurs
关注
DeepSeek-R1-Distill-Qwen-7B-Int8-W8A16 量化高精校准
AI天才研究院
02-05 2115
DeepSeek-R1-Distill-Qwen-7B-Int8-W8A16 是一个基于的 Int8 量化的模型。Qwen2.5Int8后训练：在基础模型上进行大规模强化学习我们直接在基础模型上应用强化学习（RL），而不依赖于监督微调（SFT）作为前置步骤。这种方法使模型能够探索用于解决复杂问题的思维链（Chain-of-Thought, CoT），从而开发出 DeepSeek-R1-Zero。
【DeepSeek-R1 +1.5B】2060显卡ollama本地部署+open-webui界面使用
进一寸有一寸的欢喜
02-06 2835
deepseek-r1-1.5B本地部署, 仅需2G-3G显存
DeepSeek-R1-Distill-Qwen-1.5B-Q4_K_M.gguf 模型下载地址
学亮编程手记
02-13 1235
https://modelscope.cn/models/unsloth/DeepSeek-R1-Distill-Qwen-1.5B-GGUF/fileshttps://modelscope.cn/models/unsloth/DeepSeek-R1-Distill-Qwen-1.5B-GGUF/resolve/master/DeepSeek-R1-Distill-Qwen-1.5B-Q4_K_M.gguf
Deep Seek R1本地化部署
晨曦之光Wing的博客
01-30 6621
【说明】操作系统：win10。使用工具：ollama
【5分钟搞定】ollama下载deepseek-r1大模型本地部署
lixiaoqidecsdn的博客
01-29 1万+
1.登录ollama，选择models，选择deepseek-r1模型，选择1.5b(核显电脑)3.控制台输入ollama run deepseek-r1:1.5b自动下载。2.选择1.5b，复制命令，打开CMD控制台；
模型的快速下载（DeepSeek,任何模型都适用）
anningyue的博客
02-10 1万+
模型的快速下载（DeepSeek,任何模型都适用）
DeepSeek R1模型本地部署教程 （含软件包）
书山有路勤为径
02-07 5517
deepseek 本地部署 文章目录 前言 一、pandas是什么？ 二、使用步骤 1.引入库 2.读入数据 总结 前言 提示：这里可以添加本文要记录的大概内容： 例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。 提示：以下是本篇文章正文内容，下面案例可供参考 一、pandas是什么？ 示例：pandas 是基于NumPy 的一种工具，该工具是为了解决数..
如何快速下载Huggingface上的超大模型，不用梯子，以Deepseek-R1为例子
扶着老奶奶闯红灯
01-22 1万+
就在昨天DeepSeek-R1模型问世即爆火，37B的大模型，你想部署一下试试吗？我就想试试，毕竟本人有8卡A100可以玩。首先我们需要从Huggingface下载模型权重，我在国内，文件太大了，下载不了。有方法，有教程，请仔细看。
大模型迎来2025开年大作：deepseek-R1与deepseek-R1-Zero
热门推荐
sexy19910923的博客
01-21 3万+
DeepSeek版o1，有消息了。还未正式发布，已在代码基准测试LiveCodeBench霸榜前三，表现与OpenAI o1的中档推理设置相当。 注意了，这不是在DeepSeek官方App已经能试玩的DeepSeek-R1-Lite-Preview（轻量预览版）。
ollama-windows本地部署deepseek-r1-1.5b模型
qq1164014750
02-21 877
ollama 是一个强大的工具，用于本地部署大语言模型。其官方地址为：https://ollama.com/ 和 https://github.com/ollama/ollama。ollama 使用 gguf 格式的大模型文件，这种格式具有诸多优势，比如存储效率高、加载速度快等。同时，ollama 使用 Modelfile 来配置大模型的一些关键属性，例如使用哪个具体的模型、系统提示词以及上下文参数大小等。
DEEPSEEK-R1本地推理部署指南
最新发布
03-03
一是详细介绍 DEEPSEEK-R1 在本地的推理部署过程，涵盖 Ollama 推理框架的安装步骤（针对 Windows、macOS 和 Linux 平台）、具体的操作指导如模型的选择和运行、使用命令确认安装成功以及通过第三方工具使用 ...
DeepSeek基于DeepSeek-R1-1.5B.gguf的RAG微调项目完整文件包（第三部分）
02-11
文件包的命名“DeepSeek基于DeepSeek-R1-1.5B.gguf的RAG微调项目完整文件包（第三部分）”清晰地指出了其内容和用途，同时“本地基于GGUF部署的DeepSeek实现轻量级调优之二：检索增强生成（RAG）”则暗示了该项目的...
deepseek大模型本机部署
Stestack的博客
01-31 6650
搭建一个聊天界面就需要另外一个开源项目chatbox：https://github.com/Bin-Huang/chatbox，下载对应版本chatbox，安装成功后打开chatbox，点击设置，模型提供方选择Ollama，ollama运行时他会自动识别模型，保存即可。这款模型不仅在性能上与OpenAI的GPT-4相媲美，更以开源和创新训练方法，为AI发展带来了新的可能性。deepseek官网https://chat.deepseek.com。官网：https://ollama.com。
Deepseek模型下载
qq_36273010的博客
02-22 669
链接: https://pan.baidu.com/s/1a982O6ri2sHSKOvVVs3slQ 提取码: cpey。链接: https://pan.baidu.com/s/1HoM3NB0w77Wgcprp-7TMdw 提取码: 76bw。安装包百度网盘分享链接：deepseek本地部署windows ollama安装包+chatbox安装包。通过网盘分享的文件：苹果ollama安装包。
本地部署deepseek
qq_45961915的博客
02-14 392
本地部署deepseek
使用 Ollama 下载 DeepSeek 模型和DeepSeek的本地部署使用
weixin_43794223的博客
02-08 2631
import requests url = "http://localhost:11434/api/generate" data = { "model": "deepseek-r1", "prompt": "你好，DeepSeek！它支持多种模型格式，并提供简单的命令行接口，方便开发者快速下载、运行和测试模型。访问 Ollama 的官方网站：ollama.com （支持Mac/Linux/windows系统）根据你的操作系统选择下载对应的安装包。模型下载成功后，可以通过以下命令查看在本地的模型。
一键安装deepseek-R1大模型，不用下这下那，纯分享
Wang_shu_han的博客
02-05 1799
下载这个压缩包，解压后根据步骤文档安装，1分钟就直接搞定，最后效果如下（我是8g的4070卡，运行8b参数的模型没有压力，贼快）
最强开源推理大模型 DeepSeek-R1 最清晰的免费本地部署使用教程
weixin_56619527的博客
01-28 1万+
本文带来 DeepSeekR1 模型免费本地部署教程，因官网下载慢，在文末附上百度网盘链接。教程分两步，第一步，先前往 ollama 官网下载安装程序，在命令行输入 “ollama -h” 测试安装并查看命令。再依据显存选 DeepSeek-R1 模型，复制下载代码在命令行运行，用 “ollama list” 查看安装情况并运行模型。第二步，从 chatbox 官网下载安装程序，打开后在设置里将模型提供方设为 ollama，选好模型保存即可开启对话。最后，分享安装包百度网盘链接，欢迎点赞收藏支持。
DeepSeek-R1部署
02-04
### DeepSeek-R1部署指南 #### 准备工作 为了成功部署DeepSeek-R1，需先准备好必要的环境配置。这包括安装Python以及设置虚拟环境等基础操作[^1]。 #### 安装依赖库 通过`pip install -r requirements.txt`命令可以一次性安装项目所需的所有第三方包。确保requirements文件位于当前目录下。 ```bash pip install -r requirements.txt ``` #### 下载模型权重 访问官方GitHub页面获取预训练好的模型参数，并将其放置于指定路径以便程序加载使用。具体链接可以在论文附件中找到更多细节说明[^2]。 #### 启动服务端口 利用内置脚本启动API服务器，默认监听8000端口。可根据实际需求修改配置文件中的port选项来更改对外提供服务的具体端口号。 ```bash python app.py --host 0.0.0.0 --port 8000 ``` #### 测试接口功能 最后一步是对已搭建完毕的服务进行简单的功能性验证。可以通过发送HTTP请求至相应路由地址实现这一目的；例如，在浏览器里输入http://localhost:8000/ping查看返回状态码是否正常。
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值