[AI] DeepSeek Linux 私有化部署 (14B、32B)

已于 2025-02-10 09:52:49 修改
阅读量698 收藏 7
点赞数 8
文章标签： linux 运维 服务器 AI编程 AI写作 AI作画 AIGC
于 2025-02-06 15:08:41 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/a15024735672/article/details/145472393
版权

文章目录

部署环境

显卡：RTX4090D
CPU：I7-14700K
内存：32G
硬盘：4T
系统：Ubuntu 24.04 LTS

安装ollama

官方：

curl -fsSL https://ollama.com/install.sh | sh

经测试安装很慢，经常出现EOF部署中断的现象，使用以下修改过的脚本进行安装

链接: https://pan.baidu.com/s/1rlDa-Z55-WW83rcqrzG9nw 提取码: eayt

下载完，传到Linux中执行

sh ollama_install.sh

解决下载大文件出现中断

git config
最低0.47元/天 解锁文章
IT.TI
关注
【实战篇】【深度解析DeepSeek私有化部署：从硬件选择到避坑指南（万字长文）】
02-24 1128
私有化部署不是终点而是起点，建议企业分三步走：① 先用1.5B版本完成POC验证② 通过7B版本跑通业务闭环③ 最终按场景需求选择专业版本如果预算允许，建议购买原厂金牌服务，关键时刻能节省数周排查时间。（注：文中价格数据参考2025年2月市场行情，具体以厂商报价为准）
手把手教你私有化部署带聊天界面的DeepSeek-32b-----Linux版
ltbweber的博客
02-08 1846
手把手教你搭建基于Linux云服务的DeepSeek
autoDL+ollama+deepseek R1 32B私有化部署
weixin_42304926的博客
02-08 335
修改端口后ollma 命令失效 Error: could not connect to ollama app, is it running?通常为了更好的管理模型文件，一般还需要设置这个OLLAMA_MODELS。启动 ollama run deepseek-r1:32b。ollama运行正常。
AI大模型企业应用实战：Prompt让LLM理解知识
2401_84204413的博客
06-25 2555
• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；
【AI+智造】在阿里云Ubuntu 24.04上部署DeepSeek R1 14B的完整方案
最新发布
中小企业数字化转型战略顾问；曾任职用友软件、金蝶软件及两网五电、冶金设计院、先声药业、鼎阳集团等多家上市公司
02-28 921
DeepSeek R1作为国产大语言模型的代表，凭借其强化学习驱动的推理能力，在复杂任务（如数学问题、编程逻辑）中表现优异。本地化部署可满足企业对数据隐私、定制化需求及离线场景的支持。本文基于Ubuntu 24.04 LTS，提供两种主流部署方案（Ollama与vLLM），涵盖硬件选型、环境配置、模型优化及问题排查，适用于中大规模企业级应用场景。
最全面部署指南：轻松在Ollama上安装与配置DeepSeek R1-32B！
出发之前永远是梦想，上路之后永远是挑战。
02-11 2834
最全面部署指南，轻松在Ollama上安装与配置DeepSeek R1-32B！
Ollama的部署安装与使用 大模型私有化部署一
LZS1009的博客
10-13 2249
在虚拟机CentOS7环境下部署Ollama
deepseek 私有化本地部署（Win） --零基础小白
youyudehan的博客
02-11 1716
网页版的DeepSeek 服务器繁忙？尝试将它本地部署吧，私有话不担心数据云泄露还可进行模型微调和特有训练，部署过程全细节！
DeepSeek私有化部署搭建、本地知识库、可联网查询RAG检索增强生成
hxbao的专栏
02-19 1752
以下为主界面功能介绍。选择好模型后即可开始对话。通过合理的RAG设置、知识库设置、提示词设置，可以将大模型AI训练成更符合自身需要、更加智能化的产品。相比于通用大模型更能满足私有、定制的需求。由于Cherry Studio、AnythingLLM在许多设置上与Page Assist相似，故下文将仅对软件主要设置进行介绍。
DeepSeek-R1 私有化部署 ubuntu22.04 3060显卡
qq_37124515的博客
02-09 1370
实测效果还是可以的，能满足日常使用。但是和“满血”版本还是有很大的差距优先使用官网版本，或者直接使用官网的API版本。如果有空闲资源，官网服务也是不稳定的，可以尝试以上方式部署如果有什么问题，欢迎评论留言讨论，看到会回复如果你觉得这个回答对你有帮助，欢迎关注我的微信公众号【一行梦境】，我会在那里分享更多深度内容和实用技巧。
DeepSeek-R1 32B Windows+docker本地部署
qq_43530326的博客
02-08 840
最近国产大模型DeepSeek兴起，本地部署了一套deepseek同时集成Open WebUI,给大家出一期教程。
国产AI之光！DeepSeek本地部署教程，效果媲美GPT-4
m0_46995061的博客
02-06 1195
相关的软件，我已经放入到网盘，网不好的同学，可以直接下载。https://ollama.com/download/ 默认为当前电脑的对应的版本，直接下载即可。Ollama 是一个专注于本地化部署和运行大型语言模型（LLM）的工具，旨在让用户能够在自己的设备上高效地运行和微调模型。8b的模型凑合能用、14b的模型基本能用，32b的模型使用很是顺滑。至此，deepseek的本地部署已经完成。根据自己电脑的配置选择对应规格的模型，然后复制对应的命令即可。除了671是真正的deepseek，其他的都是蒸馏的模型。
128GB显存！4卡 DeepSeek R1 32B私有化部署开放远程测试！
2401_85375151的博客
02-08 1105
DeepSeek-R1 横空出世，凭借其与 OpenAI-o1正式版比肩的卓越性能，迅速在国内外赢得了广泛的关注。开工当天，我们同事已在单台工作站上为您准备好私有化部署测试环境，并配备了4张 NVIDIA RTX 5000 Ada GPU（共128GB），邀您共同体验并探讨DS私有化部署性能与场景。测试流程1.点击“阅读原文”或扫描下方二维码即刻申请测试：扫码申请远程测试2.工作人员将尽快与您联系确定具体测试需求；3.给您发送测试机远程链接，即刻开启测试。NVIDIA RTX 5000 Ada GPU 参数
从零使用Ollama+Chatbox搭建DeepSeek本地大模型指南一（可视化界面免费）
Java_superman822的博客
02-08 3734
从零使用Ollama+chatBox搭建DeepSeek本地大模型
DeepSeek R1 32B 本地部署实战
一米鸟巢
02-16 1631
支持上传文档（如PDF、Word等），DeepSeek能快速提取关键信息，生成摘要，帮你节省阅读时间。
DeepSeek调用本地大模型
李昭的博客
02-08 306
【代码】DeepSeek调用本地大模型。
无需代码DeepSeek本地部署最全最详细教程 保姆式完整教程
xiaodoudou的专栏
02-13 231
复制：ollama run deepseek-r1:7b ，到“命令提示符”粘贴： ollama run deepseek-r1:7b。下载运行命令： ollama run deepseek-r1:14b （复制粘贴）下载运行命令： ollama run deepseek-r1:32b （复制粘贴）下载运行命令： ollama run deepseek-r1:70b （复制粘贴）下载运行命令： ollama run deepseek-r1:7b （复制粘贴）
TensorFlow相关组件的安装
AAI666666的博客
01-11 2496
TensorFlow相关组件的安装
私有化部署的deepseek支持私有化部署吗
02-12
### DeepSeek 支持私有化部署 DeepSeek 提供了多种方式来实现私有化部署，允许用户根据需求选择适合自己的版本进行安装。对于不同规模的企业和个人开发者而言，可以选择不同的模型大小来进行本地部署。 #### Windows 平台下的私有化部署方法 为了在 Windows 上完成 DeepSeek 的私有化部署，首先需要安装 Ollama 工具链[^2]。这一步骤可以通过访问 Ollama 官网获取最新的安装包并按照指引完成安装过程。 接着，依据所需的模型容量，可以执行如下命令之一来启动特定版本的 DeepSeek 模型： - 对于较小规模的应用场景，可选用 `1.5B` 参数量级别的模型： ```bash ollama run deepseek-r1:1.5b ``` - 如果计算资源充足，则可以选择更大参数量的模型以获得更好的性能表现，比如 `8B`, `14B`, 或者更大的 `32B` 和 `70B` 版本： ```bash ollama run deepseek-r1:8b ollama run deepseek-r1:14b ollama run deepseek-r1:32b ollama run deepseek-r1:70b ``` 除了上述基本操作外，官方还建议配合使用集成应用程序 Chatbox 来增强用户体验和功能扩展[^1]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

IT.TI

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值