部署deepseek - r1 模型 14b 32b 70b -- 客户端集成AI生成报告(一)

最新推荐文章于 2025-04-04 08:00:00 发布

原创

最新推荐文章于 2025-04-04 08:00:00 发布

· 1k 阅读

14 ·

版权

文章标签：

#python #deepseek #LLM #r1 #部署 #本地

众所周知，deepseek火了一个月了

自己毕设开发的python客户端中，也要集成LLM

因此，需要先部署deepseek - r1 免费高效

#### LLM模型选择

deepseek r1 - 14b 32b 70b 均集成。默认32b。平衡性能和效果。

#### 本地部署

参考来源：

[DeepSeek 本地化部署（保姆喂饭级教程） - 知乎 (zhihu.com)](https://zhuanlan.zhihu.com/p/21030210489)

[自定义Ollama安装路径 - 不愿透露姓名的菜鸟 - 博客园 (cnblogs.com)](https://www.cnblogs.com/LaiYun/p/18696931)

1. 下载Ollama

用来快速部署LLM模型

[Download Ollama on Windows](https://ollama.com/download) Ollama

2. 自定义 Ollama安装路径【否则可能自动安装到C盘】

如在【D:\Software\Artificial Intelligence\Ollama】

则运行【 OllamaSetup.exe /DIR=D:\Software\Artificial Intelligence\Ollama】

运行命令安装

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

Ashbravo

关注关注

5
点赞
踩
14

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

DeepSeek HuggingFace 70B Llama 版本（DeepSeek-R1-Distill-Llama-70B）

简简单单Onlinezuozuo

02-14

1010

DeepSeek-R1-Zero 是一种通过大规模强化学习（RL）训练的模型，没有监督微调（SFT）作为初步步骤，在推理方面表现出了卓越的性能。随着 RL 的出现，DeepSeek-R1-Zero 自然而然地出现了许多强大而有趣的推理行为。但是，DeepSeek-R1-Zero 遇到了无休止的重复、可读性差和语言混合等挑战。为了解决这些问题并进一步提高推理性能， DeepSeek 开始了 DeepSeek-R1，它在 RL 之前整合了冷启动数据。

【DeepSeek部署实战】基于Ollama+Chatbox零成本部署DeepSeek-R1系列模型攻略（Windows）

寻道AI，探索AI无限可能！

03-24

1514

在人工智能领域，DeepSeek 作为国产大模型的第一梯队选手，凭借其卓越的算法优化和高性能表现（支持代码生成、数学推理、多轮对话等场景）持续领跑行业。然而，尽管官方提供了免费的网页版服务，但在实际使用中，用户常常面临三大痛点：网络延迟高（尤其是在代码生成场景中）、隐私数据外泄风险以及高峰期服务器响应缓慢。为了解决这些问题，本文将介绍一种基于 Ollama 和 Chatbox 的黄金组合方案，手把手教您在 Windows 系统上实现零成本本地化部署 DeepSeek-R1 系列模型，

参与评论您还未登录，请先登录后发表或查看评论

DeepSeek-R1模型不同参数规模（1.5B、7B、8B、14B、32B、70B、671B）之间的区别

有天你会让我妒忌的

02-10

9056

DeepSeek-R1 系列模型的不同参数规模（如1.5B、7B、14B、70B等）代表了模型的参数量级，直接影响模型的。例如，用7B模型验证业务流程，再迁移到14B提升效果。建议先从小规模模型实验，再根据实际需求逐步升级。

deepseek R1 14b显存占用

风之羽

01-31

6423

RTX2080ti 11G显卡，模型7b速度挺快，试试14B也不错。打算自己写个移动宽带的IPTV播放器，不知道怎么下手，就先问他了。7B显存使用5.6G，11B显存刚好够，出文字速度差不多。

最新发布

Android23333的博客

04-04

1399

深度求索（DeepSeek）是一家中国的人工智慧（AI）公司，成立于 2023 年，目标是打造「通用人工智慧」（AGI）。DeepSeek 专注于研发最先进的AI 技术，特别是「自然语言处理」（NLP）和「深度学习」，AI技术可以让机器理解人类语言、生成文字、进行对话，甚至解决更复杂的问题，像是聊天机器人、文本生成、语文翻译、整理资料…...2024年12月26日，DeepSeek-V3正式发布且直接开源，剔除掉Meta、OpenAI等大厂的前期探索成本，大概是别人的三分之一，并且整体模型评测能力媲美闭源模

社区版Dify + Ollama + DeepSeek-R1（14b）实现私有化LLM推理

weixin_44119512的博客

01-24

5044

大模型本身就具备推理能力，为什么还需要推理模型，深度思考？简单地说，就是推理能力相对较低，只能处理相对简单的问题，而不会深入思考更加复杂的问题，所以 OpenAI 发布了o1 ，可以做各种考试的题目。但是 o1 并不开源，价格看起来遥不可及。值此，一个国内不怎么出名的公司，Deepseek ，发布了V3，用一种低成本实现的高水准的LLM。（557万美元训练出671B的模型）开源免费可商用噢，随后不久就发布了一个初代的推理模型：DeepSeek-R1 和DeepSeek-R1-Zero。

如何利用DeepSeek打造医疗领域专属AI助手？

资深程序员，曾自学JAVA，C#，如今从业于网安行业

02-25

935

TensorFlow相关组件的安装

AAI666666的博客

01-11

2868

TensorFlow相关组件的安装

DeepSeek-R1模型1.5b、7b、8b、14b、32b、70b和671b有啥区别？

热门推荐

facaixxx2024的博客

02-02

3万+

deepseek-r1的1.5b、7b、8b、14b、32b、70b和671b有啥区别？码笔记mabiji.com分享：1.5B、7B、8B、14B、32B、70B是蒸馏后的小模型，671B是基础大模型，它们的区别主要体现在参数规模、模型容量、性能表现、准确性、训练成本、推理成本和不同使用场景

DeepSeek-R1技术报告论文

01-25

为了支持研究社区，DeepSeek-R1、DeepSeek-R1-Zero以及六个基于Qwen和Llama蒸馏的密集模型（包括1.5B、7B、8B、14B、32B、70B）被开源。报告中还提供了DeepSeek-R1的基准性能评估结果，这些结果涉及多个平台和任务，...

大模型迎来2025开年大作：deepseek-R1与deepseek-R1-Zero

sexy19910923的博客

01-21

3万+

DeepSeek版o1，有消息了。还未正式发布，已在代码基准测试LiveCodeBench霸榜前三，表现与OpenAI o1的中档推理设置相当。注意了，这不是在DeepSeek官方App已经能试玩的DeepSeek-R1-Lite-Preview（轻量预览版）。

全网最简单！本地部署DeepSeek-R1联网教程！

huang9604的博客

02-05

3万+

很多读者提到，希望本地部署的DeepSeek-R1有联网功能，今天就来说一下实现方法。

macOS 本地化deepseek （M2芯片，16GB内存，极限14b）

qq_40815731的博客

02-12

2316

MacOs电脑本地化使用deepseek

本地化部署32B版本残血DeepSeek R1模型

xiangzhihong8的专栏

02-09

1万+

选择32B模型：若需平衡性能与成本，且场景偏向通用任务（如企业文档处理），本地部署是优选。选择满血版：仅限科研或需极致性能的场景，但需承担高昂硬件成本与部署复杂度。安全优化：无论选择何种版本，建议结合加密技术、分层权限管理以降低本地化风险4。通过合理配置硬件与工具（如Ollama、LM Studio），32B模型可在大多数场景下提供高效且安全的本地AI服务，但需对其性能边界有清晰认知57。

win10系统可使用的DeepSeek模型（1.5b、8b、14b）

yilvyangguang520的博客

02-07

1095

win10系统可使用的DeepSeek模型（1.5b、8b、14b）

本地化部署DeepSeek-R1

tpriwwq的专栏

01-31

980

deepseek-r1 7B、14B、32B占用性能测试

weixin_43228963的博客

02-16

1213

deepseek-r1 7B、14B、32B占用性能测试

让DeepSeek-R1当你的个人本地知识库！

h1453586413的博客

02-07

1596

什么是RAG？简单说就是给大模型配了个随身图书馆+过目不忘的学霸：你扔给它《资本论》，它能整出《00后整顿职场指南》；投喂三年财报，分分钟生成《如何优雅暗示老板加薪》；塞本《本草纲目》，说不定能开电子中药铺。（某网友上传《甄嬛传》剧本后，现在他的AI说话都是"本宫看这预算方案，倒不如剪秋的头饰体面"）

deepseek-r1 1.5b 7b 8b 14b 32b 70b 671b的区别

01-28

### 不同版本的 DeepSeek-R1 模型参数量差异与性能对比 #### 参数规模概述 DeepSeek-R1 系列模型提供了多种不同的参数规模，具体包括 1.5B、7B、8B、14B、32B 和 70B 版本。这些不同大小的模型旨在满足多样化的需求，从小型应用到大型复杂任务均有覆盖[^1]。 #### 性能特点分析 - **小型化高效模型** 对于资源受限环境下的应用场景而言，较小尺寸如 1.5B 或者 7B 的模型能够提供较为理想的效率与效果平衡。这类轻量化设计使得它们可以在较低配置硬件上运行良好，同时保持不错的推理质量。 - **中等规模优化模型** 当涉及到更复杂的自然语言处理任务时，像 8B 及 14B 这样的中间规格则显示出更好的适应性和准确性提升。特别是在特定领域内的专业知识理解方面有着更为出色的表现。 - **高性能旗舰型号** 而对于追求极致性能的研究人员来说，则可以选择更大容量比如 32B 或者最高达 70B 参数级别的顶级配置。此类超大体量网络结构不仅具备更强的数据拟合能力，在多项权威评测指标上的得分也名列前茅，甚至超过了某些知名竞争对手的产品线，例如 OpenAI-o1-mini。值得注意的是，虽然存在提及 671B 参数量的信息，但在当前提供的参考资料里并没有关于此特别巨大体积的具体描述或验证记录。因此可以推测这可能是误传或者是未来计划中的开发目标之一而非现有产品序列的一部分。 ```python # Python 示例代码用于展示如何加载不同参数量的预训练模型 from transformers import AutoModelForCausalLM, AutoTokenizer model_names = [ "deepseek-r1-1.5b", "deepseek-r1-7b", "deepseek-r1-8b", "deepseek-r1-14b", "deepseek-r1-32b", "deepseek-r1-70b" ] for name in model_names: tokenizer = AutoTokenizer.from_pretrained(name) model = AutoModelForCausalLM.from_pretrained(name) input_text = "Once upon a time," inputs = tokenizer(input_text, return_tensors="pt") outputs = model.generate(**inputs, max_length=50) generated_text = tokenizer.decode(outputs[0], skip_special_tokens=True) print(f"\nGenerated text by {name}:") print(generated_text) ```