DeepSeekMath：数学推理的开源革命

已于 2025-02-22 23:16:59 修改
阅读量1.2k 收藏 15
点赞数 30
分类专栏： “智元启示录“ - AI发展的深度思考与未来展望 文章标签： DeepSeek 人工智能 deep learning
于 2025-02-02 17:20:31 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/liu1983robin/article/details/145421069
版权

目录

  1. 引言：为什么数学推理对 AI 是个大挑战？
  2. 一、DeepSeekMath 的核心突破
  3. 二、DeepSeekMath VS 其他主流模型
  4. 三、未来影响与局限
  5. 四、总结

引言：为什么数学推理对 AI 是个大挑战？

在人工智能的诸多挑战中，数学推理一直被认为是一块难啃的“硬骨头”。与自然语言理解不同，数学推理强调严格的逻辑性和多步递进式推导，这对于语言模型来说并非易事。尽管类似 GPT-4、Gemini Ultra 这样的封闭大模型在数学方面已有相当出色的表现，但在 开源社区，想要达到与它们相近的水平却困难重重。

然而，DeepSeek-AI 的最新研究成果——DeepSeekMath——正为开源数学推理模型带来新的可能。这款模型在多项基准测试中展现了前所未有的高水准：

  • 无需外部工具与投票（如无需复杂的 self-consistency 投票），在 MATH 基准上可达到约 51.7% 的准确率；
了解本专栏 订阅专栏 解锁全文 超级会员免费看
DeepSeekMath：数学推理开源模型的算法革新与实现细节
步子哥的博客
01-30 1519
DeepSeekMath的代码和预训练模型已在GitHub开源，为数学推理研究提供了新范式。这种算法-数据协同优化的思路，正在推动开源模型向专业领域纵深发展。研究团队发现，在相同计算资源下，经过代码预训练的模型在MATH数据集上表现提升达32%。DeepSeekMath的7B参数模型基于DeepSeek-Coder-v1.5进行初始化，这一决策源于。当结合工具使用时（Python解释器），准确率可进一步提升至58.8%，超过早期GPT-4版本。其中μG、σG为当前问题下G个样本的奖励均值和标准差。
DeepSeekMath: Pushing the Limits of Mathematical Reasoning in Open Language Models
ZJQ的博客
02-05 92
结论、局限与未来工作**：DeepSeekMath在MATH基准测试中超越开源模型接近闭源模型表现，但在几何和定理证明方面相对弱于闭源模型，少样本能力也不如GPT-4。未来将改进数据选择流程，探索更有效强化学习方向。
DeepseekMath：超强开源数学模型（论文详解）
sherlockMa的博客
01-28 4713
在本研究中，作者引入了DeepSeekMath，这是一个特定于领域的语言模型，它的数学性能显著优于开源模型，在学术基准测试中接近GPT-4的性能水平。为了实现这一目标，作者创建了DeepSeekMath语料库，这是一个包含120 B个数学标记的大规模高质量预训练语料库。在初始迭代中，使用OpenWebMath中的实例来训练分类器作为正面例子，同时纳入了其他网页的多样化选择作为负面例子。随后，使用基于fastText的分类器从Common Crawl中挖掘额外的正实例，这些正实例通过人工标注进一步细化。
DeepSeek系列模型详解之——DeepSeek Math
2401_85373898的博客
02-14 2072
DeepSeek Math发布于2024年2月，虽然是一个7B参数量的模型，但在Math基准榜单上的表现却超过了多个30B~70B参数量的开源模型。
DeepSeekMath：在开放语言模型中突破数学推理的极限
yorkhunter的博客
01-30 2247
24年4月来自DeepSeek-AI、清华和北大的论文“DeepSeekMath: Pushing the Limits of Mathematical Reasoning in Open Language Models”。 数学推理因其复杂性和结构性而对语言模型构成了重大挑战。本文引入 DeepSeekMath 7B，它继续使用来自 Common Crawl 的 120B 个数学相关tokens以及自然语言和代码数据，对 DeepSeek-Coder-Base-v1.5 7B 进行预训练。DeepSee
探索数学深度的宝藏：DeepSeekMath 7B 开源项目
gitblog_00052的博客
05-31 1209
探索数学深度的宝藏：DeepSeekMath 7B 开源项目 DeepSeek-Math项目地址:https://gitcode.com/gh_mirrors/de/DeepSeek-Math 项目介绍 DeepSeekMath 7B 是一个精心设计和训练的大型预训练模型，源自 DeepSeek-Coder-v1.5 7B，并进一步针对数学相关数据进行了大规模的扩展。这个项目不仅在解决复杂的数学...
论文解读——DeepSeekMath: Pushing the Limits of Mathematical Reasoning in Open Language Models
hang on it more longer
01-22 1487
英语和中文数学推理：我们在英语和中文基准上对我们的模型进行了全面评估，涵盖了数学问题从小学到大学水平。英语基准包括 GSM8K（Cobbe 等人，2021)），MATH（Hendrycks 等人，2021)），SAT（Azerbayev 等人，2023)），OCW 课程（Lewkowycz 等人，2022a)），MMLU-STEM（Hendrycks 等人，2020）。
DeepSeek R1：AI推理引擎的技术创新与开源生态
01-27
这些特性让DeepSeek R1在自然语言处理(NLP)、数学推理、编程等领域取得优异的表现并超过了竞争对手的部分指标。此外,其MIT开源许可证允许广泛的商业使用与技术创新，极大地促进了开源AI生态系统的发展。在医疗、金融...
DeepSeek-Math 开源项目教程
gitblog_00457的博客
08-20 909
DeepSeek-Math 开源项目教程 DeepSeek-Math项目地址:https://gitcode.com/gh_mirrors/de/DeepSeek-Math 项目介绍 DeepSeek-Math 是一个专注于数学推理的开源项目，旨在提升开放语言模型在数学问题上的推理能力。该项目由 DeepSeek 公司开发，基于 DeepSeek-Coder-v1.5 7B 模型进行初始化，并通...
DeepSeek-Math 项目使用教程
gitblog_00891的博客
08-20 1024
DeepSeek-Math 项目使用教程 DeepSeek-Math项目地址:https://gitcode.com/gh_mirrors/de/DeepSeek-Math 目录结构及介绍 DeepSeek-Math 项目的目录结构如下： DeepSeek-Math/ ├── evaluation/ ├── images/ ├── replicate/ ├── .gitignore ├── LI...
突破数学推理极限：DeepSeekMath 的算法与实现
步子哥的博客
01-21 926
一个专注于数学推理的开源语言模型，旨在缩小开源与闭源模型之间的性能差距。在 GSM8K 和 MATH 等数学基准测试中，DeepSeekMath-RL 7B 的表现超过了所有开源模型（包括规模高达 70B 的模型），并接近 GPT-4 等闭源模型。除了数学推理，DeepSeekMath 在语言理解（MMLU）、推理（BBH）和编程（HumanEval 和 MBPP）任务中也表现出色，证明了数学训练对模型通用能力的提升。，并通过精心设计的预训练策略，显著增强了模型的数学推理能力。，专为大规模语言模型设计。
DeepSeekMath：DeepSeek数学推理模型简介(内含简略训练图)
wgc2k的博客
03-05 434
在人工智能技术蓬勃发展的当下，大语言模型在各个领域的应用不断拓展，其中数学推理领域一直是备受关注的焦点。近期，DeepSeekMath 的出现，在该领域引发了广泛的讨论与研究热潮。
DeepSeekMath: Pushing the Limits of MathematicalReasoning in Open Language Models论文阅读
AI前沿技术的分享！
02-05 1286
数学推理因其复杂性和结构化特性，对语言模型提出了重大挑战。在本文中，我们介绍了 DeepSeekMath 7B，它在 DeepSeek-Coder-Base-v1.5 7B 的基础上，使从 Common Crawl 收集的 1200 亿个数学相关标记进行了持续预训练，同时结合了自然语言和代码数据。DeepSeekMath 7B 在竞争级别的 MATH 基准测试中取得了令人印象深刻的 51.7% 的成绩，且没有依赖外部工具包和投票技术，接近 Gemini-Ultra 和 GPT-4 的性能水平。
全球首届 AI 奥数竞赛，DeepSeekMath 成为 TOP 团队的共同选择
zengxiaojian2的博客
07-10 1414
此模型结合了代码工具，在 MATH 基准测试中能达到 58.8% 的准确率。虽然目前仍有较多团队未公开具体方案，但很高兴通过开源模型的方式推动了技术交流与模型能力探索，这也是最初我们选择开源的重要动力，并且这一竞赛结果也很好地佐证了 DeepSeekMath 的能力。我们使用了未经微调的 DeepSeek-Math-7B-RL 模型，并通过我们制定的评分规则使用多数投票的策略选择正确答案。未来，我们将会继续打造性能更强大的模型，我们相信，只有强大的模型能力、普惠的技术应用，才能开启人工智能发展的新篇章。
DeepSeek-Math解读
最新发布
xuebodx0923的博客
03-14 876
是DeepSeek推出的数学推理大模型，使用DeepSeek-Coder-v1.5-7B进行初始化，并继续对来自 Common Crawl 的数学相关tokens以及 500B 个tokens的自然语言和代码数据进行预训练。7B在不依赖外部工具包和投票技术的情况下，在竞赛级MATH基准上取得了令人印象深刻的51.7%的成绩，接近和GPT-4的性能水平。使用500B。
DeepSeekMath：解锁数学建模新境界
武哥的博客
02-15 426
在传统的数学建模中，我们常常需要耗费大量时间来选择合适的模型和优化算法。而借助DeepSeekMath的强大能力，我们可以更智能地完成模型选择、参数优化和结果分析等任务，大大提升建模效率。通过本文的学习，相信大家已经掌握了如何使用DeepSeekMath来提升数学建模能力。建议从简单的建模问题开始实践，逐步挑战更复杂的问题。记住，好的数学模型不仅要有准确的结果，更要能给出清晰的解释和洞察。下期预告：我们将深入探讨如何使用DeepSeekMath来解决优化问题，敬请期待！欢迎在评论区分享你的想法和经验！
DeepSeek 模型全览：探索不同类别的模型
Harry的博客
01-30 1万+
DeepSeek 在 AI 领域的研究覆盖多个重要方向，包括 NLP、代码生成、多模态 AI、数学推理等。无论是开发者、研究人员还是 AI 爱好者，都可以从这些模型中找到适合自己需求的工具。未来，DeepSeek 可能会推出更多创新模型，让我们拭目以待！
MLA——一文通透DeepSeek V2中的多头潜在注意力MLA：改进MHA，从而压缩KV缓存，提高推理速度(含让任何LLM都能用上MLA的方法)
热门推荐
结构之法 算法之道
08-26 3万+
成就本文有以下三个因素校长最近开始搞deepseek了吗？刚看了论文，没搞懂MLA那块的cache是怎么算的，我总觉得他的效果应该类似MQA才对，但是反馈是挺好的目前团队项目上的事情太多，然后近期在写那个KAN确实还没来得及看这个deepseek，我近期看下而搞之前——近几天，会先写一下它的论文解读，故本文就来了且一如既往做到，对于几乎每一个主题，都做到本博客万千读者或七月学员所说的：“还是看校长的文章好理解”，如有任何问题或任何不懂的地方，可以随时留言/评论，我会找时间尽快回复。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

海棠AI实验室

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值