2080ti实测部署DeepSeek 32B！内容创作效率翻倍，AI玩家必看！

点金王者

已于 2025-02-09 19:10:35 修改

阅读量2.9k

点赞数 14

文章标签：语言模型

于 2025-02-09 19:10:13 首次发布

本文链接：https://blog.csdn.net/u011005003/article/details/145535755

版权

摘要：本文主要是作者通过年前购买的一张2080ti 22G，通过桌面部署deepseek 32b的大模型的干货分享，本文也对32B版本的本地版进行一些简要测测评，通过测评看是否有商业化的性能表现。

一、通过ollama安装本地环境

首先打开ollama的官网，点击Download

然后点击windws ，再点击Download for Windows，下载并安装运行环境。

二、一键运行deepseek

如上Windows版本的ollama运行环境安装好后，然后按Win+R，输入CMD，打开命令提示符，输入：

ollama run deepseek-r1:32b

如上，笔者就完成安装并运行了，本次安装小插曲，有点

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

点金王者

关注关注

14
点赞
踩
13

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

Ollama+Cherrystudio+QwQ 32b部署本地私人问答知识库全测试（2025年3月win11版）

AllenLV的博客

03-19

1019

QwQ 32B凭借参数效率和本地部署优势，确实在技术性能上缩小了与DeepSeek R1的差距，但其生态成熟度和用户习惯的改变仍需时间。对于追求灵活性与隐私的用户，本地部署的QwQ 32B是理想选择；而DeepSeek R1则更适合追求“开箱即用”的场景。两者并非替代关系，而是不同场景下的互补方案。

【Windows使用VNC和Cpolar实现跨平台高安全性的远程桌面在线连接】

CSDN站内信: https://i.csdn.net/#/msg/chat/qyj19920704

02-17

9553

在现代快节奏的工作和生活中，跨地理界限的高效协作变得越来越重要。无论是远程办公、技术支持还是家庭帮忙，远程桌面服务都成了我们的得力助手。不过，并不是所有设备都能轻松启用自带的远程桌面功能，这无疑给许多人带来了不小的麻烦。别担心，科技总能为我们找到出路！VNC 作为一种广受好评的远程桌面协议，凭借其跨平台、易用和安全的特点，成为了众多用户的首选。无论是 Windows、Linux 还是 macOS，安装 VNC Server 都能让你轻松实现远程控制。但问题来了：如何在公网中安全地使用这一神器呢？

参与评论您还未登录，请先登录后发表或查看评论

都说deepseek好，但它总是“服务器繁忙，请稍后再试”，本地部署太麻烦？试试 Deepseek R1-32B 云端部署，5 分钟轻松搞定！

涛涛讲AI

02-07

4448

都说deepseek好，但它总是“服务器繁忙，请稍后再试”, 本文教你5分钟实现云端部署。

本地化部署32B版本残血DeepSeek R1模型

xiangzhihong8的专栏

02-09

1万+

选择32B模型：若需平衡性能与成本，且场景偏向通用任务（如企业文档处理），本地部署是优选。选择满血版：仅限科研或需极致性能的场景，但需承担高昂硬件成本与部署复杂度。安全优化：无论选择何种版本，建议结合加密技术、分层权限管理以降低本地化风险4。通过合理配置硬件与工具（如Ollama、LM Studio），32B模型可在大多数场景下提供高效且安全的本地AI服务，但需对其性能边界有清晰认知57。

DeepSeek 模型本地部署指南（针对 DP32b 等参数模型）

rick的博客

03-10

1095

DeepSeek 模型本地部署指南（针对 DP32b 等参数模型）

vllm 本地部署生产级DeepSeek R1 32B 模型实践

maskevinwu的专栏

02-03

7629

vllm 本地部署生产级DeepSeek R1 32B 模型实践

千户级2080Ti GPU局域网集群实现每户家庭虚拟本地部署DeepSeek-R1 671B详细

icbcnetone的专栏

02-23

632

**AI工具链** | NVIDIA AI Enterprise | 9,000 | 50 | 45.0 | 含Triton授权 || **核心设备** | Spectrum-4交换机 | 85,000 | 4 | 34.0 | 64×100G端口 |

DeepSeek-R1 私有化部署 ubuntu22.04 3060显卡

qq_37124515的博客

02-09

1371

实测效果还是可以的，能满足日常使用。但是和“满血”版本还是有很大的差距优先使用官网版本，或者直接使用官网的API版本。如果有空闲资源，官网服务也是不稳定的，可以尝试以上方式部署如果有什么问题，欢迎评论留言讨论，看到会回复如果你觉得这个回答对你有帮助，欢迎关注我的微信公众号【一行梦境】，我会在那里分享更多深度内容和实用技巧。

双卡 RTX 5090 深度体验：AI 推理框架选择与性能限制实测

最新发布

nulifancuoAI的博客

03-29

1620

本次双 RTX 5090 的深度体验为我们带来了不少有价值的信息。硬件本身性能强大，双卡并行潜力巨大，但务必重视散热方案和电源配置，以确保稳定运行。在推理框架选择上，Ollama 是当前最方便、开箱即用的选择，适合快速上手和实验。需要特别注意的是，像 SGLang 和 vLLM 这类广泛用于高并发、低延迟生产环境的推理框架，目前对 RTX 5090 的官方支持存在明显滞后。SGLang 因 CUDA 版本限制暂不可用，而 vLLM 需要特定环境下的手动编译，且稳定性有待验证。

你的电脑能跑动哪个版本？DeepSeek本地部署硬件配置全解析

weixin_44626085的博客

02-24

4121

当AI大模型从云端走向本地，开发者们都在问同一个问题：我的电脑到底能不能跑得动DeepSeek？这个让科技圈沸腾的国产大模型，正在掀起一场桌面算力革命。今天我们就来揭开不同版本DeepSeek的硬件需求真相，看看你的设备能驾驭哪个级别的"数字大脑"。

Java 从业者必备：DeepSeek 32B 模型内网部署与优化指南

真心喜欢你吖研发工程师，记录学习笔记、问题解决方案、知识总结、知识分享；冲鸭！

02-27

1951

DeepSeek 32B 模型以其卓越的性能和开源特性，成为构建本地化 AI 应用的理想选择。本文将为您详细介绍在内网环境中部署 DeepSeek 32B 模型的完整流程，帮助您快速搭建稳定可靠的 AI 服务。

低成本大模型部署！2080Ti显卡阵列运行DeepSeek671B配置方案

沐雨风栉

03-20

1388

朋友们，你是否曾被DeepSeek官网或APP的一句‘服务器正忙，请稍后再试’气得拍桌而起？没错，这波操作不仅让人头疼，还让不少人心里打起了小算盘：如果能在自己的电脑上部署个大模型，那该多爽啊！但说到几百G的‘满血版’DeepSeek R1 671B，是不是光想想就心累？别急，今天咱们来点不一样的——用一帮老硬件组合，让你在个人电脑上也能跑起来这数百GB的大模型，而且总成本竟然控制在万元以内！效果如何？这配置还能达到2.18 tokens/s的速度，简直物超所值。赶紧来看看这个神操作吧！【视频演示】

2080ti*2，Ubuntu vllm+openweb-ui运行deepseek-r1

qq_43335960的博客

02-16

577

2080ti，可以用ollama运行deepseek-r1，qwen蒸馏版本。但ollama模型有压缩，生产环境还是用vllm推理原生模型更合适。1、安装vllm和modelscopepip install vllm modelscope -i https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple/ 2、下载deepseek-r1模型，并启动mkdir deepseek-aimkdir deepseek-ai/DeepSeek-R1-Distill-Qw

DeepSeek-R 1.5B、7B、8B、14B、32B、70B、671B 主要区别在于：

热门推荐

SAFE20242034的博客

02-03

4万+

DeepSeek-R1 主要是一个系列的开源大模型，不同版本的。，可以告诉我，我会帮你选择最合适的版本！如果你有更具体的需求，比如。

LMDeploy本地部署轻松玩转DeepSeek

weixin_41688410的博客

01-30

3629

本文主要介绍了LMDeploy 是如何本地部署大模型，并且以deepseek为例，从环境搭建，模型选择，推理，部署，量化全流程保姆级从0到1详细记录了每个过程。它是一个专为大语言（LLMs）和视觉-语言模型（VLMs）设计的高效部署工具箱，可以帮我们轻松玩转各种大模型，让我们对于大模型应用游刃有余，如鱼得水，挥洒自如。

DeepSeek安装部署教程，3分钟打造顶级推理能力！基于Ollama

facaixxx2024的博客

01-29

1万+

DeepSeek安装部署教程，3分钟打造顶级推理能力！基于Ollama，DeepSeek爆火，如何免费部署到你的电脑上？打造最强大脑获取顶级推理能力教程来了，先在你的本地电脑上安装Ollama，然后在Ollama搜索选择DeepSeek模型，即可成功在你的本地电脑上部署DeepSeek，码笔记mabiji.com整理详细教程如下

【deepseek】（2）：使用3080Ti显卡，运行deepseek-coder-6.7b-instruct模型，因fastchat并没有说支持这个版本，或者模型有问题，出现死循环输出EOT问题

freewebsys的专栏

12-09

3974

总结，代码生成支持多个语言的生成，不知道是因为量化还是 fastchat的兼容问题。目前看 deepseek-coder-6.7b-instruct 会有死循环输出的问题。因为启动的是 int8 量化版本，同时也不是fastchat官方说的兼容的33版本。后续再使用原版33B验证下。

浏览器右键另存为如何封禁

09-21

浏览器右键另存为功能通常是为了方便用户保存网页内容或图片，如果需要封禁这一操作，主要有两种常见的思路： 1. **JavaScript限制**：许多网站会使用JavaScript来阻止或限制右键菜单的行为。开发者可以在页面上监听`contextmenu`事件，并通过返回`false`或者显示自定义提示阻止默认的操作。例如，通过JavaScript代码检查鼠标事件并禁止默认处理。 ```javascript document.addEventListener('contextmenu', function(e) { e.preventDefault(); // 阻止默认行为 return false; // 取消系统右键菜单的弹出 }, false); ``` 2. **元标签和X-Content-Type-Options**：现代浏览器支持设置`X-Content-Type-Options`头部信息，告知浏览器该资源的内容类型不应该被篡改，这有助于防止一些规避手段，比如通过修改响应头尝试解除对右键的限制。 ```html <meta http-equiv="X-Content-Type-Options" content="nosniff"> ``` 然而，完全封禁所有情况下的另存为操作可能影响用户的正常使用体验，特别是在教育、下载资源等场景下。所以，在设计时，通常会选择更智能的方式让用户理解某些操作可能受限，并提供合理的替代方案。