如何评价deepseek上线的deepseek-V3模型？

最新推荐文章于 2025-03-10 10:17:03 发布
最新推荐文章于 2025-03-10 10:17:03 发布
阅读量2.2k 收藏
点赞数
原文链接：https://mp.weixin.qq.com/s?__biz=Mzg2NzUxNTU1OA==&mid=2247647793&idx=3&sn=6fae1e03babacbad39bad80d93ad1751&chksm=cf485c45017e10cdd8437b8025f6cf1784f2bf18e67fccd8decb5fd65ba80de90f40dcab654b&scene=126&sessionid=0
版权

作者 | 黄哲威 hzwer 编辑 | 自动驾驶之心

原文链接：https://www.zhihu.com/question/7837132971/answer/65410137584

点击下方卡片，关注“自动驾驶之心”公众号

戳我-> 领取自动驾驶近15个方向学习路线

>>点击进入→自动驾驶之心『大模型』技术交流群

本文只做学术分享，如有侵权，联系删文

国产大模型又信仰充值了

deepseek 找到了一个弯道超车海外 LLM 的方法，作为友商员工我都愿意粉一下，真产业升级

我觉得把刷榜看成是模型能力增强带来的副产品，效果是好于 1. 对着榜去刷过拟合 2.急着用赶超战略复刻新技术的

比方说我们发现 GPT4 某些榜表现好，专门加这类数据并不本质，反而污染了一个原本很好的评价指标

把基模做强就有惊喜！又是 The Bitter Lesson。既想刷榜又不想做预训练，就很容易技术落后

当 OpenAI / Anthropic 有些新现象和新技术出来，要复刻的前提是基础模型够强，不然即使人家把监督微调 / 强化学习的数据开源了，小模型可能学完也没什么变化

研究小模型最怕的也是得到的结论和大模型完全不相关，浪费宝贵人力和时间

从这个角度来说，预训练不做就很难发现新的模型特性和现象，只能等别人喂

等别人开源模型完再动工新产品或者研究，再退一步就是等着 copy huggingface 开源社区 demo 了

https://github.com/deepseek-ai/DeepSeek-V3/blob/main/DeepSeek_V3.pdf

作为近期必读的技术报告，我也来瞅瞅，当然工程上我有很多不了解的地方，欢迎大家指正

主要贡献

  1. 架构改进: 在 DeepSeek-V2 的高效架构基础上，我们引入了一种无辅助损失的负载均衡策略，以最小化负载均衡对模型性能的负面影响。

  2. 多令牌预测: 我们研究了多令牌预测（MTP）目标，并证明了它在模型性能方面的益处。MTP 目标可以用于推测性解码，以加速推理。

  3. 预训练: 我们设计了一个 FP8 混合精度训练框架（工程好强啊），并首次在极其大规模的模型上验证了其可行性和有效性。通过算法、框架和硬件的联合设计，我们克服了跨节点 MoE 训练的通信瓶颈，实现了近全计算-通信重叠，从而显著提高了训练效率并降低了成本。

  4. 后训练: 我们引入了一种创新的方法，从 DeepSeek-R1 系列模型中蒸馏推理能力，并将其集成到标准 LLMs 中，特别是 DeepSeek-V3。我们的管道优雅地将 R1 的验证和反射模式集成到 DeepSeek-V3 中，显著提高了其推理性能。同时，我们还保持了对输出样式和长度的控制。

  5. 核心评估结果总结: DeepSeek-V3 在知识、代码、数学和推理等多个领域表现出色。在教育基准测试（如 MMLU、MMLU-Pro 和 GPQA）上，它超越了所有其他开源模型，并表现出与领先封闭源代码模型（如 GPT-4o 和 Claude-Sonnet-3.5）相当的性能。在数学相关基准测试上，DeepSeek-V3 取得了最先进的性能，甚至在某些基准测试上超过了 o1-preview。在编码相关任务上，DeepSeek-V3 在编码竞赛基准测试（如 LiveCodeBench）上表现出色，成为该领域的领先模型。

59361fe5e6ea131d3249b47e455b6362.png

预训练

14.8T数据，2048 H卡，训了56天（2.788M GPU hours），算力开销是四千万人民币，很值的感觉。这就能烧一个 GPT4 水平的基础模型，大佬们应该都蠢蠢欲动了。

  • 14.8T 训练:

    • 完整训练仅需 2.788M H800 GPU 小时。

    • 看报告有三十位数据标注员。这版覆盖更多语言，继续增加了数学 / 代码的比例，代码数据中的 10% 用中间补充（FIM）策略来组织（我理解这主要是为了给模型强化一个常用的推理功能）。为了压缩其它语言的内容，调整了分词器。

  • 模型架构:

    • 700B MoE 模型。

    • 256 个总专家，其中 1/8 共享专家，8 top-k，推理激活了 37B 参数。

    • 与 DeepSeek v2 的比较：236B MoE，16 个专家，1/8 共享，1 top-k 选择，推理激活了 21B 参数。

  • 多头潜在注意力（MLA）:

    • 类似于 DeepSeek v2 MoE，前三层不是 MoE。

  • 其他细节:

    • 61 层，宽度 7168。

    • 多令牌预测（MTP）作为目标。

    • 16 PP（并行）/ 64 EP（专家并行）/ Zero-1 DP（数据并行）#优化了全对全通信内核，而不是昂贵的 TP（张量并行）。

    • 在 CPU 上进行 EMA

超参数

  • 初始的学习率和优化器配置，都是继承 deepseek v1 的结论，batchsize 也是按缩放定律从 v1 的 3072 到 15,360。

  • WSD 学习率调度器：0 → 2.2e-4（2k steps）→ 常数直到 10T → 2.2e-5（在 4.3T tokens 时余弦衰减）→ 2.2e-5（在剩余的 167B tokens 时常数）。

长文本能力

  • 用 YaRN 方法 (arXiv:2309.00071)

  • 上下文窗口扩展: 每 1000 steps，从 4k 逐步扩展到 32k，然后到 128k。

RLHF 部分

奖励构建：

  1. 基于规则的奖励机制。对于可以使用特定规则进行验证的问题，我们采用基于规则的奖励系统来确定反馈。例如，某些数学问题有确定的结果，我们要求模型在指定的格式内（例如，在方框中）提供最终答案，以便我们可以应用规则来验证正确性。类似地，对于 LeetCode 问题，我们可以利用编译器根据测试用例生成反馈。通过尽可能利用基于规则的验证，我们确保了更高的可靠性，因为这种方法不易受到操纵或利用。

  2. 对于具有自由形式真实答案的问题，我们依靠奖励模型来确定响应是否与预期的真实答案匹配。相反，对于没有明确真实答案的问题，例如涉及创意写作的问题，奖励模型的任务是根据问题和相应的答案作为输入提供反馈。奖励模型从 DeepSeek-V3 SFT 检查点进行训练。为了提高其可靠性，我们构建了偏好数据，这些数据不仅提供最终奖励，还包括导致奖励的思维链。这种方法有助于减轻在特定任务中奖励被操纵的风险。

看起来还是客观题用规则方法，主观题用奖励模型，而且是一种 COT 的奖励模型

  • 训练了 2epoch，余弦学习率衰减

  • 提到了 constitutional AI approach 和 self-rewarding，显然有模型打分造数据的部分了

评测

我圈出了一些比较有亮点的数字

我个人觉得如果一个榜 qwen-dense 也能做得不错，可能就不是做超大 MoE 模型应该关注的点了

3c04d8b6a9cc76564c88e655c0a8b1d1.png

比较有亮点的是数学能力，Coding 看这个榜不好说提升是不是非常大，因为 Codeforces 漏题还是比较严重的，从论文字面上没看出来有没有排除相关影响

无所谓，训出来了，自有大儒会讲经的

论文讨论部分

蒸馏好像很重要，但是主要在这部分描述

从 DeepSeek-R1 蒸馏
我们通过基于 DeepSeek-V2.5 的实验来消融从 DeepSeek-R1 蒸馏的贡献。基线模型是在短链数据上训练的，而其竞争对手则使用了由专家检查点生成的数据。
表 9 展示了蒸馏数据的有效性，在 LiveCodeBench 和 MATH-500 基准测试中都取得了显著改进。我们的实验揭示了一个有趣的权衡：蒸馏会导致性能更好，但也会显著增加平均响应长度。为了在模型准确性和计算效率之间保持平衡，我们为 DeepSeek-V3 的蒸馏精心选择了最佳设置。
我们的研究表明，从推理模型中蒸馏知识是一个有前途的后训练优化方向。虽然我们目前的工作重点是蒸馏数学和编码领域的数据，但这种方法在各种任务领域都显示出潜力。这些特定领域的有效性表明，长链蒸馏可能对增强其他需要复杂推理的认知任务的模型性能有价值。对这种方法在其他领域的进一步探索仍然是未来研究的一个重要方向。

2728ec372211f3a8d622be90677be7b1.png

推理过程强化，然后筛选和蒸馏反哺，听起来很有搞头

自我奖励
奖励在 RL 中起着至关重要的作用，指导着优化过程。在可以通过外部工具进行验证的领域，如某些编码或数学场景中，RL 显示出了出色的效果。然而，在更一般的场景中，通过硬编码构建反馈机制是不切实际的。在 DeepSeek-V3 的开发过程中，对于这些更广泛的上下文，我们采用了Constitutional AI 方法（Bai et al., 2022），利用 DeepSeek-V3 本身的投票评估结果作为反馈源。这种方法产生了显著的对齐效果，显著提高了 DeepSeek-V3 在主观评估中的表现。
通过将补充信息与 LLM（大型语言模型）作为反馈源相结合，DeepSeek-V3 可以优化到 Constitutional 方向。我们认为这种范式将补充信息与 LLM 作为反馈源相结合，对于推动 LLM 的自我改进至关重要。除了自我奖励外，我们还致力于发现其他一般性和可扩展的奖励方法，以持续推动模型能力在一般场景中的发展。

Constitutional AI 方法简单来说就是，不是所有打标都要人搞，比如有害性标注就可以交给模型负责，然后我们可以在降低有害性，提高有用性两个维度上，做帕累托改进

多令牌预测评估
DeepSeek-V3 通过多令牌预测（MTP）技术预测了下一个 2 个令牌，而不是仅仅预测下一个单个令牌。结合推测性解码框架（Leviathan et al., 2023; Xia et al., 2023），这可以显著加速模型的解码速度。一个自然的问题是，额外预测的令牌的接受率是多少？基于我们的评估，第二个令牌预测的接受率在各种生成主题上都保持在 85% 到 90% 之间，展示了一致的可靠性。这个高接受率使 DeepSeek-V3 能够实现显著改进的解码速度，将 TPS（每秒令牌数）提高了 1.8 倍。

虽然解码速度提升是常数级的，但是对于用户体验非常重要的

① 2025中国国际新能源技术展会

自动驾驶之心联合主办中国国际新能源汽车技术、零部件及服务展会。展会将于2025年2月21日至24日在北京新国展二期举行，展览面积达到2万平方米，预计吸引来自世界各地的400多家参展商和2万名专业观众。作为新能源汽车领域的专业展，它将全面展示新能源汽车行业的最新成果和发展趋势，同期围绕个各关键板块举办论坛，欢迎报名参加。

408bd85366ea6a6cbac676385bf44a43.jpeg

② 国内首个自动驾驶学习社区

『自动驾驶之心知识星球』近4000人的交流社区，已得到大多数自动驾驶公司的认可！涉及30+自动驾驶技术栈学习路线，从0到一带你入门自动驾驶感知（端到端自动驾驶、世界模型、仿真闭环、2D/3D检测、语义分割、车道线、BEV感知、Occupancy、多传感器融合、多传感器标定、目标跟踪）、自动驾驶定位建图（SLAM、高精地图、局部在线地图）、自动驾驶规划控制/轨迹预测等领域技术方案、大模型，更有行业动态和岗位发布！欢迎扫描加入

d294f9fd95ddb776d8d55a2a814e8d2e.png

 ③全网独家视频课程

端到端自动驾驶、仿真测试、自动驾驶C++、BEV感知、BEV模型部署、BEV目标跟踪、毫米波雷达视觉融合、多传感器标定、多传感器融合、多模态3D目标检测、车道线检测、轨迹预测、在线高精地图、世界模型、点云3D目标检测、目标跟踪、Occupancy、CUDA与TensorRT模型部署、大模型与自动驾驶、NeRF、语义分割、自动驾驶仿真、传感器部署、决策规划、轨迹预测等多个方向学习视频（扫码即可学习）

960b195860b8883814de36a0b3a896d0.png

网页端官网：www.zdjszx.com

④【自动驾驶之心】全平台矩阵

8a3c3ddb9d10a7edecb3670140468648.png

DeepSeekV3带火大模型infra，入门看这篇就够了！
强化学习曾小健
12-29 1015
DeepSeekV3带火大模型infra，入门看这篇就够了！ 知乎：真中合欢地址：https://zhuanlan.zhihu.com/p/10091011992 为什么会有这篇文章：虽然工作内容不是infra，但是我比较喜欢研究训练方法，魔改训练框架造轮子。正好最近看到OpenRLHF用ray管理VLLM的方案，感觉很有意思，遂研究了一下，发现VLLM的TP切分和Megatron是一套逻辑，用torch的rpc也可以代替ray的远程调用，所以打算用Megatron+TorchRPC+VLLM实现一
谈谈DeepSeek-v3在算力约束下的出色工作
强化学习曾小健
12-29 1664
DeepSeek-V3是一个671B的MoE模型, 每个Token激活参数为37B, 采用了MLA和DeepSeekMoE架构, 在大多数模型还在维持Transformer架构时, DeepSeek直接对架构进行了两个非常重要的创新, 并且通过v2充分验证了MLA和MoE的性能, 非常出色的工作. 一些Benchmark如下, 突然有点心疼Meta的几个亿美金...在同类产品中基本上做到了领先, 特别是在Code和math上.
DeepSeek大模型技术解析：从架构到应用的全面探索
振华OPPO的博客世界
01-29 3万+
DeepSeek大模型是由北京深度求索人工智能基础技术研究有限公司开发的一款基于Transformer架构的大型语言模型。它具备强大的自然语言理解和生成能力，能够处理多种复杂的语言任务，如智能对话、文本生成、语义理解等。DeepSeek大模型的诞生，标志着人工智能在自然语言处理领域取得了重大突破。
深度剖析DeepSeek大模型：技术架构详览、应用场景探索
热门推荐
北桥源木
02-02 3万+
DeepSeek，以架构创新与场景深耕为双轮驱动，正引领大模型落地的新范式——从“规模为王”迈向“效率与精准并重”的新时代。DeepSeek，一款源自中国深度求索（DeepSeek Inc.）团队的大规模预训练语言模型，以其高效推理、多模态融合及对垂直领域的深度优化而著称。该模型旨在通过技术创新，打破“规模决定一切”的传统桎梏，追求“轻量级参数，卓越性能”的完美平衡，同时摆脱对大算力的过度依赖，为复杂任务提供一站式解决方案。
大模型系列：DeepSeek大模型与应用场景介绍
最新发布
m0_48891301的博客
03-10 781
今天给大家聊聊DeepSeek 究竟有哪些强大的模型？这些模型又适用于哪些具体的场景呢？希望对大家了解 DeepSeek 大模型提供一些参考。DeepSeek 拥有一系列功能强大的模型，每一款都独具特色，在不同的领域发挥着重要作用。其中，DeepSeek-R1 是推理能力的佼佼者，它在数学、代码以及各种复杂逻辑推理任务上表现出色，性能直逼 OpenAI 的 o1 模型。通过强化学习训练，它的推理过程包含大量反思和验证，思维链长度可达数万字，能为用户展现完整的思考过程。
人工智能：DeepSeek模型详解
专业深耕，技术前沿
02-01 2322
DeepSeek平台自2023年7月成立以来，迅速吸引了业界的关注。团队凭借自研训练框架、自建智算集群和万卡算力等资源，成功在短时间内发布了多个百亿级参数的大模型，包括DeepSeek-LLM通用大语言模型、DeepSeek-Coder代码大模型等。DeepSeek，作为幻方量化公司旗下的开源大模型平台，其成立初衷是为了挑战人工智能领域的前沿难题，推动通用人工智能底层模型与技术的研究与发展。综上所述，DeepSeek作为一款具有创新技术和显著优势的人工智能模型平台，在多个方面展现出了强大的性能和应用前景。
如何评价deepseek上线的deepseek-V3模型？怎么使用？
百态老人的博客
12-28 5652
DeepSeek-V3是一款性能强大且性价比高的大模型，适合广泛的应用场景，包括教育培训、内容创作、科研探索和产品开发等。其开源特性也为开发者提供了更多的灵活性和创新空间。用户可以通过官网或API服务快速上手，体验这一新一代AI模型的强大功能。整体性能DeepSeek-V3在多项评测中表现出色，与GPT-4o和Claude-3.5-Sonnet相当。
大模型迎来2025开年大作：deepseek-R1与deepseek-R1-Zero
sexy19910923的博客
01-21 3万+
DeepSeek版o1，有消息了。还未正式发布，已在代码基准测试LiveCodeBench霸榜前三，表现与OpenAI o1的中档推理设置相当。 注意了，这不是在DeepSeek官方App已经能试玩的DeepSeek-R1-Lite-Preview（轻量预览版）。
国产大模型 DeepSeek-V3
AI_Mind的博客
01-04 2169
在 DeepSeek-V2 高效架构的基础上，DeepSeek-V3 还引入了无辅助损失的负载平衡策略，并通过动态调整专家偏置项，确保训练过程中的负载平衡，从而避免了传统辅助损失对模型性能的负面影响。在 Arena-Hard 基准测试中，DeepSeek-V3 对基线模型 GPT-4-0314 的胜率超过 86%。DeepSeek-V3 的基础模型是在以英语和中文为主的多语言语料库上进行预训练的，因此DeepSeek-V3主要在一系列以英语和中文为主的基准测试上评估其性能，同时也包括一个多语言基准测试。
2025年deepseek技术全景解析-重塑全球AI生态的中国力量.pdf
03-08
2024年11月，DeepSeek-v3的上线并开源，此版本对MoE架构进行了进一步优化，并在训练成本、稳定性及多方面性能上与世界领先的闭源模型相媲美。2025年1月，DeepSeek-R1的发布为公司带来了新的里程碑，其推理能力得到极...
【深度分析】DeepSeek大模型技术解析：从架构到应用的全面探索
代码学习，前言技术分享，深度分析编程技术，普及科普编程技术
01-30 9560
DeepSeek的开发团队人数不到140人，在创造这一系列成果过程中，团队成员凭借自身坚实的技术功底和创新能力，精心打造了从模型架构到算法优化等每个环节的技术要素，使得DeepSeek大模型在如此小的团队规模下脱颖而出并取得成功，这在人工智能领域的大模型研究开发进程中也是比较罕见的情形[开源的DeepSeek大模型已经降低了开发利用大模型的门槛，意味着初创公司有机会与互联网巨头竞争，这会促使更多的企业进入到人工智能和大模型的竞争赛道中，打破现有的由少数巨头主导的产业格局，增加产业的竞争活力。
DeepSeek介绍与部署
super_mochi1
01-28 1万+
DeepSeek 是一家由中国知名量化私募巨头幻方量化创立的人工智能公司，致力于开发高效、高性能的生成式 AI 模型。自2023年7月成立以来，DeepSeek在短短一年多的时间里取得了显著的进展，推出了多个引人注目的开源模型，包括 DeepSeek Coder、DeepSeek LLM、DeepSeek-V2、DeepSeek-V3 和 DeepSeek-R1。成立时间：2023年7月17日母公司：幻方量化，一家规模超过百亿的私募量化基金，为DeepSeek提供了坚实的资金支持。
DeepSeek模型全解析：赋能人工智能新纪元
北桥源木
02-01 3466
DeepSeek，源自一家中国AI初创公司，其最新版本DeepSeek-V3是一款基于先进的Mixture-of-Experts（MoE）架构的语言模型。与前代模型DeepSeek-V2及竞争对手GPT-4、PaLM-2和Claude相比，DeepSeek-V3在数学推理、代码生成等多个方面表现突出。DeepSeek-V3在MMLU-Pro、GPQA-Diamond、Codeforces等测试中表现亮眼，尤其在代码生成和推理任务上，超越其他主流开源模型。训练DeepSeek-V3需尖端硬件，成本高昂。
全面认识了解DeepSeek+利用ollama在本地部署、使用和体验deepseek-r1大模型
tigerhhzz的博客
01-30 1万+
DeepSeek 是一家专注于人工智能领域的创新型科技公司；成立于2023年7月；公司名称：杭州深度求索人工智能基础技术研究有限公司。2025 年 1 月，其相关应用登顶苹果中国地区和美国地区应用商店免费 APP 下载排行榜，在美区下载榜上超越了 ChatGPT。受 DeepSeek 冲击，2025 年 1 月 27 日美国人工智能主题股票遭抛售，美国芯片巨头英伟达股价历史性暴跌，纳斯达克综合指数大幅下跌。发展历程及产品发布。
【大模型】 大模型 deepseek-ai/DeepSeek-R1-Distill-Qwen-7B
Zack的博客
02-15 903
大模型 deepseek-ai/DeepSeek-R1-Distill-Qwen-7B
DeepSeek 模型全览：探索不同类别的模型
Harry的博客
01-30 1万+
DeepSeek 在 AI 领域的研究覆盖多个重要方向，包括 NLP、代码生成、多模态 AI、数学推理等。无论是开发者、研究人员还是 AI 爱好者，都可以从这些模型中找到适合自己需求的工具。未来，DeepSeek 可能会推出更多创新模型，让我们拭目以待！
DeepSeek - V2.5：全新开源模型，融合通用与代码能力
寻道AI，探索AI无限可能！
09-29 5339
DeepSeek - V2.5是由deepseek - v2 - chat和deepseek - coder - v2两个模型合并升级而来的一款人工智能模型。这种合并升级的方式赋予了DeepSeek - V2.5独特的能力组合，使其在多种任务场景下都能发挥重要作用。它既融合了chat模型的通用对话能力，能够应对各种自然语言处理相关的交互任务，又具备coder模型强大的代码处理能力，为编程相关的任务提供了有力支持。
Deepseek技术浅析（一）
m0_75253143的博客
01-29 1万+
DeepSeek 是北京深度求索人工智能基础技术研究有限公司推出的人工智能技术品牌，专注于大语言模型（LLM）的研发与应用。其技术涵盖了从模型架构、训练方法到应用部署的多个层面，展现出强大的创新能力和应用潜力。以下将详细介绍 DeepSeek 的核心技术、工作原理以及具体实现方式。
deepseek-v3怎么部署
01-08
### 如何部署 DeepSeek-V3 #### 准备工作 为了成功部署 DeepSeek-V3，需先确认环境配置满足最低需求。这通常涉及操作系统版本、Python解释器以及必要的依赖库安装。确保服务器具备足够的计算资源来支持模型运行也是至关重要的[^1]。 #### 获取软件包 访问官方发布的页面下载最新版的DeepSeek-V3压缩文件或通过Git仓库克隆项目源码。对于企业级应用而言，建议采用稳定分支以减少潜在风险。 #### 安装依赖项 解压后进入指定目录并按照README.md中的指导完成pip install操作或其他形式的依赖设置过程。注意某些特定组件可能需要额外编译或是从第三方获取二进制文件。 ```bash pip install -r requirements.txt ``` #### 配置参数 编辑config.yaml或者其他形式的配置文档来适配实际应用场景下的各项设定，比如端口监听地址、数据库连接字符串等重要信息。这部分内容直接影响到系统的正常运作，因此务必仔细核对每一项条目。 #### 启动服务 一切准备就绪之后便可以尝试启动API接口或者Web界面了。一般情况下会有一个简单的命令用于快速开启测试实例；而对于生产环境中，则推荐利用进程管理工具如Supervisord来进行守护和服务恢复处理。 ```bash python app.py runserver --host=0.0.0.0 --port=8080 ``` #### 测试验证 最后一步是对新上线的服务进行全面的功能性和性能上的检测。可以通过编写自动化脚本来模拟真实请求流量，也可以手动输入查询语句观察返回结果是否符合预期效果。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值