一篇文章讲清楚如何DeepSeek本地部署，解决下载慢问题

已于 2025-02-08 21:32:21 修改
阅读量2.2k 收藏 18
点赞数 27
分类专栏： C#知识点 DeepSeek专栏 文章标签： 人工智能 机器学习 游戏策划
于 2025-02-08 21:31:23 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_40558087/article/details/145521350
版权

一篇文章讲清楚如何DeepSeek本地部署，解决下载慢问题

已经测试机型：

显卡模型效果
1050~1050Ti1.5b的最好
16507b用多了会卡
3090ti14b稳稳拿捏
409032b轻松拿捏
409070b报错cuda问题

安装Ollama

Ollama地址

  1. 点击我直接下载Ollama.exe
  2. Ollama地址

安装Ollama

  • Ollama没有选择安装地址，默认装在C盘，后期下载AI模型也会下到C盘，不建议用默认安装，想装到别的盘的话请看下方
  1. 在D盘创建一个文件夹随便起名字就可以D盘创建一个文件夹存放Ollama
  2. 点住Shift键然后右键选择在终端打开
    在这里插入图片描述
  3. 输入 “.\OllamaSetup.exe /DIR=D:\Ollama_”,然后点击回车键
  • 解释：“.\OllamaSetup.exe /DIR=” 这个命令用于显示当前目录中的文件和子目录的列表，ollama安装到这个**“D:\Ollama_”*目录里面在这里插入图片描述
  1. 出现以下界面说明成功了，点击Install开始安装在这里插入图片描述

安装webUI

  1. 下载Page Assist，在谷歌商店里面查找Page Assist 点我下载安装
    在这里插入图片描述
    2.安装成功之后记得点上固定
    在这里插入图片描述
    3.然后点击ollama
    在这里插入图片描述
    4.进入到这个页面之后查看
    在这里插入图片描述
    5.设置中文
    在这里插入图片描述
    6.测试ollama是否正常访问这个链接 http://127.0.0.1:11434，ollama的端口号是11434，后面我们做成局域网会用到
    在这里插入图片描述

修改DeepSeek模型或者其他AI模型存放位置

  1. 安装成功之后，默认AI模型放到C盘/user/.Ollama这个路径里面，不过我们要修改模型安装位置，点击高级系统设置在这里插入图片描述
  2. 点击环境变量
    在这里插入图片描述
  3. 点击新建环境变量，写入OLLAMA_MODELS,然后浏览目录写入变量值也就是你要存在什么位置，输入成功之后，点击确定，然后在点击确定依次点击然后就设置模型位置成功了，重启电脑！重启电脑！。
    在这里插入图片描述

下载模型

1.打开命令提示符，选择模型，进行下载，下面是每个模型的命令行

下载模型命令行模型占用内存
ollama run deepseek-r1:1.5b1.1GB
ollama run deepseek-r1:7b4.7GB
ollama run deepseek-r1:8b4.9GB
ollama run deepseek-r1:14b9.0GB
ollama run deepseek-r1:32b20GB
ollama run deepseek-r1:70b43GB
ollama run deepseek-r1:671b404GB
  • 输入下载命令行 ==“ollama run deepseek-r1:1.5b”==输入完成之后点击回车，我这里是下载1.5b的内存1.1GB，先下内存小的，先试试看，
    在这里插入图片描述2.下载中，出现这个进度条之后，说明正在下载，里面有个奇怪的问题，进度条看着是56%如果网有问题的话会倒退的，如果下载慢的话或者下到99%卡住了，或者其他问题，下面会单独说下 下载的问题。
    在这里插入图片描述
    3.下载完成，直接输入询问
    在这里插入图片描述

4.在webUI上测试是否正常，回到设置界面
在这里插入图片描述
4.选择1.5b开始聊天，到此结束
在这里插入图片描述

下载问题解决

  • 下载慢解决方案
  1. 如果进度条走到90%~99%卡死不动了，那么赶紧拔一下网线，然后3秒之后插回去，或者禁用网络3秒左右在启用，很好用
  2. 如果进度条回退了，那么可能网络有问题，建议选择好的线路下载，一般1.5b不会出现这个情况
  3. 如果一直报错，有可能是ollama的问题下载的人太多了
  4. 如果报错路径问题，查看环境变量或者没有重启电脑，然后重复输入下载指令，重复多次还是不行就重启电脑
  5. 如果报错unable to allocate cuda0 buffer，是因为你显卡垃圾，重新选个小的下载
  6. 如果以上还是不行的话，那么从国内下载把，下面详解

在其他网站上下载

  1. 魔搭网-点我进入
    一定要选择GGUF格式的哦
    在这里插入图片描述2.点击模型，然后下载，自己量力而行，Q2到Q8都不一样数字越大，模型精度越高，电脑越吃性能，回答的越好

在这里插入图片描述
3.下载完成之后，随便找个地方放，我是放到了Ollama位置，重新创建了一个文件夹叫DS
在这里插入图片描述
4.在创建个txt文件,我这里叫DSR1.5B我随便起的名字
在这里插入图片描述
6.在我们刚创建的DSR1.5B.txt文本里面写上内容，图片下面是代码直接复制改成你的下载的模型名字即可
在这里插入图片描述

FROM ./DeepSeek-R1-Distill-Qwen-1.5B-Q3_K_M.gguf    
PARAMETER temperature 0.7                       
PARAMETER top_p 0.95
PARAMETER top_k 40
PARAMETER repeat_penalty 1.1
PARAMETER min_p 0.05
PARAMETER num_ctx 1024                 
PARAMETER num_thread 4                  
PARAMETER num_gpu 8                     


# 设置对话终止符
PARAMETER stop "<｜begin▁of▁sentence｜>"
PARAMETER stop "<｜end▁of▁sentence｜>"
PARAMETER stop "<｜User｜>"
PARAMETER stop "<｜Assistant｜>"


SYSTEM """
"""

TEMPLATE """{{- if .System }}{{ .System }}{{ end }} 
{{- range $i, $_ := .Messages }} 
{{- $last := eq (len (slice $.Messages $i)) 1}}
{{- if eq .Role "user" }}<｜User｜>{{ .Content }}
{{- else if eq .Role "assistant" }}<｜Assistant｜>{{ .Content }}{{- if not $last }}<｜end▁of▁sentence｜>{{- end }}
{{- end }}
{{- if and $last (ne .Role "assistant") }}<｜Assistant｜>{{- end }} 
{{- end }}"""

6.输入CMD打开命令提示符界面
在这里插入图片描述

7.打开CMD输入ollama create test-ds-r1:1.5b -f ./DSR1.5B.txt自己改一下模型名字和txt名字，然点击回车
在这里插入图片描述

8.OK兄弟全体目光看齐，我们成功的装上，人工智障了
在这里插入图片描述
9.问人工智障个问题看看怎么样，输入ollama run 你刚才的模型名字，显然1.5B的是个智障，也可以在那个webui上选择去问，到此结束
在这里插入图片描述

【实战篇】手把手教你本地私有化部署DeepSeek全攻略：从硬件选型到避坑指南（超详细万字长文）
商务合作|问题讨论|交流学习 请联系作者微信，加微信请务必注明来意，博客主页有联系方式
02-19 3135
最近AI圈最火的大模型非DeepSeek莫属！这个号称"推理能力堪比GPT-4o"的国产大模型，不仅开源免费，还能在普通电脑上运行。今天我就用最接地气的语言，给你掰开了揉碎了讲清楚。
【实战篇】deepseek r1 完全本地部署实战教程
商务合作|问题讨论|交流学习 请联系作者微信，加微信请务必注明来意，博客主页有联系方式
02-06 3320
最近 deepseek r1 可是相当火爆，好多小伙伴都想在自己电脑上部署，体验一把强大的 AI 模型。今天咱就来详细讲讲，怎么把 deepseek r1 完完全全部署到本地，新手小白也能轻松上手！
ollama解决国内下载慢的问题/国内下载/镜像
热门推荐
weixin_50150363的博客
09-23 7万+
github ollama界面右侧releases内复制下载链接。中下载（可右键下载文件复制下载链接）复制下载链接,于下载加速器。
Mac本地部署DeekSeek-R1下载太慢怎么办？
如是所来的专栏
02-03 8169
Ubuntu 24 本地安装DeekSeek-R1。下载太慢，使用讯雷，mac版下载链接。在命令行先安装ollama。，看内存大小4G就8B模型。下载好后，可以列出模型列表。执行上面的命令运行模型。
deepseek-r1本地部署常见问题及解决方法
encoding-console的博客
02-10 2364
以上是目前deepseek本地部署遇到的问题及解决办法，希望能够帮到你。解决方法：在启动命令中添加–device cuda参数以启用GPU加速。解决方法：更换下载源或使用迅雷等工具加速下。如果页面打不开或响应速度慢，检查网络连接。
ollama 下载 deepseek 模型，进度条一直卡着不动，甚至回退
初夏0811的博客
02-08 1万+
我是一直等解决的，我下的是deepseek-r1:1.5b的总共1.1G大小，在windows环境安装下载了2小时，在linux服务器上安装下载花了5小时，而且我所在的网络环境不算差，源头的问题，但总算最后下成功了，启动成功可以用了。网络不好，这种下载都是分块下载的，网络不好中间断了之后下载的那块就会被丢弃，所以会出现进度条倒退的情况。2、ollama run 是在官网下载源，源头服务器访问慢，就像国外网站一样，这个是主要原因。1、等，最好是晚上下载着，等一晚上，明天再看，基本就下成功了。
ollama|模型|下载|后期|速度慢|解决思路|中断|deepseek
曹勇学霸的博客
02-08 2万+
以下载deepseek模型为例，演示了如何解决ollama下载模型速度慢的问题。
deepseek本地部署指南（解决下载速度慢）
Python13131313的博客
02-12 975
deepseek本地部署指南（解决下载速度慢）
本地DeepSeek下载慢，中断、内网无法安装方案来了
yxkong的专栏
02-13 829
最近在群里有不少人反馈，ollama安装deepseek特别慢，或者多次中断、或者下载不下来。有的是想在内网环境安装，没有网络，我研究了下解决方案。
【初级篇】如何使用DeepSeek和Dify构建高效的企业级智能客服系统
网易搬砖头
03-10 1909
定义‌：Dify知识库是基于RAG（检索增强生成）技术的结构化数据管理系统，支持企业将文档、FAQ、规范信息等非结构化数据进行向量化处理，供大语言模型（LLM）动态调用‌。‌核心作用‌实时信息更新‌：通过持续更新知识库内容，确保LLM生成回答时依赖最新数据，避免因预训练数据过时导致的错误‌。‌精准上下文支持‌：用户提问时，系统通过关键词检索召回知识库中高相关度的内容区块，为LLM提供补充信息，提升回答准确性‌。‌多场景适配。
DeepSeek-R1私有化部署——DeepSeek-R1模型微调原理与代码实现
知来者逆的博客
03-20 1022
在微调大语言模型（LLM）的过程中，开发者常常会面临一系列技术挑战。显存不足？如果显存资源有限，可以采用 LoRA（低秩适配）技术结合 4-bit 量化，显著降低显存占用，同时保持模型性能。此外，云端训练也是一个不错的选择，借助强大的云服务资源，可以轻松应对大规模模型的训练需求。数据集太小？当数据集规模较小时，模型容易出现过拟合现象，导致无法泛化到新的数据。此时，可以运用数据增强技术，如同义词替换、句子重组等，增加数据的多样性。
deepseek实战教程-第六篇查找源码之仓库地址与deepseek-R1、deepseek-LLM仓库内容查看
最新发布
极客栈
03-25 242
上一篇讲了支持deepseek的模型应用的本地安装和部署以及使用。再上一篇讲解了deepseek提供的开放api，便于开发者基于deepseek提供的接口来编写属于自己的业务应用程序。但是前面几篇我们都是在用模型，我们知道deepseek是开源的，那么deepseek的源码在哪里，具体源码是什么样的呢，是否和我们编写的Java程序一样，是一行行的代码呢，还是什么样的项目结构呢？本文带您解开deepseek源码的面纱。
DeepSeek模型权重下载太慢？快来魔乐体验加速丝滑下载，和“龟速”说拜拜
2401_87243659的博客
02-14 1433
为了让大家更直观地感受魔乐社区的下载速度，我们测试了社区各个DeepSeek模型权重的下载速度，魔乐社区的DeepSeek 模型权重下载速度远超HuggingFace，并行下载时R1的下载速度达130MB/s，通过社区openMind Hub工具下载速度达到138MB/s,大幅提升下载和开发效率。除了原始模型的下载加速，魔乐社区还提供了DeepSeek的量化权重下载，多个版本的DeepSeek系列模型，包括昇腾版、昇思MindSpore适配版，全方位满足不同开发环境与需求。2. 点击"下载模型"。
解决ollama拉取deepseek慢的问题
ChenYaZhou的专栏
02-11 2147
read 命令：通过 read 命令提示用户输入模型名称，并将其存储在变量 MODEL_NAME 中。参数传递：将用户输入的 MODEL_NAME 传递给 ollama run 命令。其他逻辑保持不变：脚本仍然每 60 秒运行一次，并终止上一次运行的进程。这样，脚本会根据用户输入的模型名称动态运行。按提示输入模型名称，例如。将脚本保存为文件，例如。
教你解决 Ollama 本地拉取模型速度过慢，甚至失败问题
star_nwe的博客
02-11 1万+
有的时候，我们在ollama pull 拉取模型时，很长时间都拉取不下来，这是由于ollama拉取模型的网址并不在国内，网速就比较慢。这个时候，可以考虑自己先本地把模型下载下来，再进行加载。另外网速问题，还可以开启VPN 挂 Tun 模式，这种我们就不细说了。本方法适合有一定基础的朋友进行实践。如果你能成功拉取模型，则不需要关注。ollama 提供了可以在本地加载模型的方案，就是使用一个配置文件的方法。
Deepseek教程（详细！！！）|使用Ollama下载Deepseek，并在Pycharm使用
BlueEstrella的博客
01-30 1万+
1. 打开Ollama官网/，根据自己的操作系统下载相应版本的安装文件(#^.^#)，我选择的是Windows版~2. 下载好后，直接双击打开安装文件，并点击“”安装。3.安装好后，在电脑的右下角的^，就可以看到一只可爱的羊驼，^0^咩~~~4.Ollama的默认安装路径为 C:\Users\用户名\AppData\Local\Programs\Ollama下图是Ollama在我的电脑中的位置*如果想将Ollama移动到别的盘符，需在环境变量中修改Path选项，添加Ollama文件绝对路径——
ollama 实现国内快速下载并安装，deepseek -r1本地部署
weixin_59131972的博客
02-08 1万+
自大学以来，无论是经验分享还是案例分析，我一直坚信，从细微之处入手，从小处着眼，脚踏实地干，持之以恒干，是个人成长成才的宝贵品质。这几年间，我看到的人是这样做的，我可能也是这样做的。知识的力量总是强大的，岁月的积淀总是。因此，寄希望于我们：继续保持谦逊、务实的低调作风，秉承戒骄戒躁的精神，拿出“咬定青山不放松”的恒心，勇毅前行，坚定信念，念念不忘，必有回响。因为Ollama 默认 安装路径在c盘，考虑内存问题，建议更为安装路径，当双击Ollama时，默认会直接进入c盘，可视化安装界面没有提供更改路径位置。
DEEPSEEK本地部署回答很慢
02-11
### DEEPSEEK 本地部署响应慢解决方案 对于遇到的 DeepSeek R1 卡顿问题，有几种方法能够有效提升性能并减少延迟。以下是针对 DeepSeek 本地部署响应速度较慢的具体优化措施： #### 调整资源配置 确保分配给 DeepSeek 的计算资源充足至关重要。如果硬件条件允许，增加内存和 CPU 核心数可显著改善处理效率[^1]。 ```bash # 修改配置文件中的资源参数 nano /path/to/deepseek/config.yaml ``` #### 使用高效存储介质 采用 SSD 替代 HDD 可加快数据读取写入的速度，从而提高整体运行效能。SSD 提供更快的数据访问时间，在加载大型模型或频繁 I/O 操作时尤为明显。 #### 合理设置缓存机制 通过引入合适的缓存策略来减轻重复请求带来的负担。例如，利用 Redis 或 Memcached 存储临时结果，避免不必要的重新计算过程。 ```python import redis r = redis.Redis(host='localhost', port=6379, db=0) def get_cached_data(key): cached_value = r.get(key) if not cached_value: # 计算新值并保存到缓存中 new_value = compute_expensive_operation() r.setex(key, ttl_in_seconds, new_value) return cached_value.decode('utf-8') ``` #### 并行化任务执行 尽可能多地实现异步操作和支持并发的任务调度方式，这有助于充分利用多核处理器的优势，进而加速程序的整体表现。 ```python from concurrent.futures import ThreadPoolExecutor with ThreadPoolExecutor(max_workers=4) as executor: future_to_url = {executor.submit(load_website, url): url for url in urls} for future in futures.as_completed(future_to_url): try: data = future.result() except Exception as exc: print('%r generated an exception: %s' % (url, exc)) ```
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值