Large Language Models for Mathematical Reasoning: Progresses and Challenges

最新推荐文章于 2025-05-23 10:18:27 发布
最新推荐文章于 2025-05-23 10:18:27 发布
阅读量194 收藏
点赞数
分类专栏： Causal and Reasoning 文章标签： 语言模型 人工智能 自然语言处理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/c_cpp_csharp/article/details/136566279
版权
LLM 日更 同时被 2 个专栏收录
828 篇文章

已下架不支持订阅

Causal and Reasoning
97 篇文章
订阅专栏
本文调查大型语言模型（LLM）在数学推理领域的应用，探讨其在解决数学问题上的进展、挑战及数据集、方法，并强调LLM在教育环境中的潜力和局限性。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

本文是LLM系列文章，针对《Large Language Models for Mathematical Reasoning: Progresses and Challenges》的翻译。

数学推理的大语言模型：进展与挑战

摘要

数学推理是评估人类智力基本认知能力的基石。近年来，面向数学问题自动解决的大型语言模型（LLM）的发展出现了显著的激增。然而，数学问题类型的范围是广泛而多样的，面向LLM的技术正在不同的数据集和环境中进行评估。这种多样性使得辨别这一新兴领域的真正进步和障碍具有挑战性。这项调查致力于解决四个关键维度：一）对已调查的各种数学问题及其相应数据集的全面探索；ii）对已经提出用于数学问题解决的面向LLM的技术的范围的检查；iii）影响数学解题LLM的因素和关注点概述；以及iv）阐明该领域内持续存在的挑战。据我们所知，这项调查是对数学领域LLM前景的首次广泛考察之一，为这个快速发展的领域的现状、成就和未来挑战提供了一个全面的视角。

1 引言

2 相关工作

3 数学问题和数据集

4 方法

5 分析

6 挑战

了解本专栏 已下架不支持订阅
UnknownBody
关注
专栏目录

已下架不支持订阅

论文翻译：ChatGPT for good? On opportunities and challenges of large language models for education Author
CSPhD-winston的博客
08-02 1097
大型语言模型代表了人工智能领域的一项重要进步。其底层技术是进一步创新的关键，尽管在社区和地区内存在批评观点甚至禁令，但大型语言模型将持续存在。这篇评论文章介绍了大型语言模型在教育应用中的潜在好处和挑战，从学生和教师的角度出发。我们简要讨论了大型语言模型及其应用的现状。然后，我们强调了这些模型如何用于创建教育内容，提高学生的参与度和互动性，以及个性化学习体验。关于挑战，我们认为教育中的大型语言模型需要教师和学习者发展一套必要的能力与素养，以理解技术及其限制和这些系统的意外脆弱性。
Beyond Accuracy: Evaluating the Reasoning Behavior of Large Language Models - A Survey
c_cpp_csharp的专栏
07-19 450
大型语言模型（LLM）最近在涉及推理的任务中表现出了令人印象深刻的性能，这引发了关于这些模型是否具有与人类相似的推理能力的激烈争论。然而，尽管取得了这些成功，LLM的推理能力的深度仍然不确定。这种不确定性部分源于主要关注任务表现，通过肤浅的准确性指标来衡量，而不是对模型推理行为的彻底调查。本文试图通过对超越任务准确性的研究进行全面回顾来解决这一差距，为模型的推理过程提供更深入的见解。此外，我们调查了评估LLM推理行为的流行方法，强调了当前趋势和对更细致的推理分析的努力。
大语言模型的数学之路
数据派THU
11-24 288
本文约5000字，建议阅读10分钟 本文介绍了LLM For Math。‍‍‍‍‍‍‍‍‍‍‍‍‍01 问题LLM 通过大量的语料来建模下一个 token 的概率，这种训练方式促成 LLM 成为一个「文科生」，那么我们不禁对以下几个问题好奇：LLM 目前在数学问题上取得的进展；有哪些技术路线在未来可能会更进一步提升 LLM 解决数学问题的能力？在以下部分不妨来讨论上面两个问题。02技术路线那么在...
Nature | 大型语言模型(LLM)能够发现和产生新知识吗？
weixin_4528312的博客
12-25 1787
谷歌DeepMind最近提出了一种使用大语言模型（LLM) 搜索数学和计算机科学新解决方案的方法 FunSearch。FunSearch 针对历史上一些经典数学难题给出了新的解法，赢过了人类数学家。
交通 | 大模型LLMs + TSP/VRP优化初探
weixin_53463894的博客
02-26 1095
LLM的引入不仅避免了手工设计启发式规则的复杂性，还能通过简单修改提示中的描述，快速适应不同规模的优化问题，甚至不同的任务。FunSearch方法是一个对求解程序的迭代过程，在每次迭代中，系统都会从当前的程序池中选择一些程序作为提示词，由LLM生成新的程序并自动进行评估。，如何更好地利用LLM在理解和推理上的优势，使其辅助优化问题的求解。受到OPRO方法的启发，也有一些学者尝试将进化算法的思想与LLM进行结合，在直接对解进行生成的求解范式下对方法进一步优化，提出了下文所介绍的OPRO方法。
每日一看大模型新闻（2023.12.14）谷歌DeepMind最先进Imagen 2发布：这些AI图片你能辨别吗？；全国首个古籍大语言模型“荀子”发布；首个「创造式任务」基准来了！北大清华联手发布
liuxiuxiu3的博客
01-31 768
此外，作者还提出了两种不同的评价方式，验证了GPT-4V评价指标与人类评价的一致性。总体来说，这项研究是对开放式智能体的创造性研究的重要尝试，为后续相关领域的研究提供了基准，也为实现通用人工智能提供了重要思路。FunSearch的工作原理是将预先训练好的大模型（LLM）与自动“评估器”配对使用，前者的目标是以计算机代码的形式提供创造性的解决方案，后者则负责防止出现幻觉和不正确的想法。总的来说，谷歌的Imagen 2在图像生成领域取得了显著的进展，为用户提供了更高质量、更灵活和更安全的图像生成体验。
论文阅读 | 【EMNLP】LLM-A*: Large Language Model Enhanced Incremental HeuristicSearch on Path Planning
m0_61750953的博客
01-09 1238
这篇论文的工作目的是解决路径规划中A*等传统算法，随着状态空间的增长，出现显著的计算和内存效率低下的问题。主要的创新点是使用大语言模型（LLM）与A*算法结合，将LLM的全局理解能力与A*算法的精确寻路能力相结合，显著降低了计算成本和内存占用，在保持路径有效性的同时提高了算法效率，特别适合大规模场景的路径规划。
大语言模型遇上寻路算法：LLM-A*如何让路径规划效率提升50%？
soaring_casia的专栏
12-31 1972
LLM-A*算法在计算效率和内存使用效率方面都显著优于传统的A*算法，同时相比纯LLM方法，在路径的稳健性和最优性方面也表现更好。
数学推理：写作和证明，版本2.1Mathematical Reasoning: Writing and Proof, Version 2.1
11-15
这本教科书是针对大学数学课程的第一门课程设计的，向学生介绍了构建和编写证明的过程。
A Survey of Mathematical Reasoning in the Era of Multimodal Large Language Model
c_cpp_csharp的专栏
01-12 563
数学推理是人类认知的一个核心方面，在从教育问题解决到科学进步的许多领域都至关重要。随着通用人工智能（AGI）的发展，将大型语言模型（LLM）与数学推理任务相结合变得越来越重要。这项调查首次对多模态大语言模型（MLLM）时代的数学推理进行了全面分析。我们回顾了自2021年以来发表的200多项研究，并研究了数学LLM的最新发展，重点关注多模态设置。我们将该领域分为三个维度：基准、方法和挑战。特别是，我们探索了多模态数学推理管道，以及（M）LLM和相关方法的作用。
论文笔记 | Nature 2023 FunSearch：利用大语言模型在数学科学领域探索新的发现
叶庭云 成为自己的光
12-20 2288
论文笔记 | Nature 2023 FunSearch：利用大语言模型在数学科学领域探索新的发现
[论文笔记]Chain-of-Thought Prompting Elicits Reasoning in Large Language Models
日积月累，天道酬勤
05-21 2028
⭐ 思维链轮笔记：作者提出了通过生成一系列中间推理步骤的思维链，可以显著提升大型语言模型在进行复杂推理时的能力，但是仅限于100B以上的大模型。
万字长文入门大语言模型（LLM）
m0_59235699的博客
06-25 1185
RL fine-tuning：将对齐过程视为一个强化学习过程，预训练LM作为policy，指令作为其输入，其输出指令的回答，action space是所有词表，state是当前已经生成的tokens序列，奖励reward由第二步的奖励模型给出。In-Context Learning（ICL）的prompt由任务描述和若干个QA示例（demonstration）组成，LLM可以识别这些内容并理解，无需进行梯度更新（区别于instruction tuning）就能在新的问题（Q）上进行回答（A）。
FunSearch
whaosoft143ai的博客
12-15 488
FunSearch 更倾向于寻找高度紧凑的程序所代表的解决方案，即具有较低 Kolmogorov 复杂度的解决方案（Kolmogorov 复杂度是输出解的最短计算机程序的长度）。FunSearch 提供了一个自动定制的程序（适应数据的具体情况），优于现有的启发式方法 —— 可以使用更少的箱子来打包相同数量的物品。此外，为了展示 FunSearch 的实际用途，DeepMind 还用它来发现更有效的算法来解决「装箱」问题，该问题应用广泛，比如可以用于提高数据中心的效率。图中仅显示底部程序的上级whaosoft
北大：数值精度影响LLM数学推理能力
大模型任我行的博客
10-25 2456
低精度设置下，大语言模型（LLM）在执行基本算术任务时遇到显著挑战。论文系统地分析了数值精度对LLM数学推理能力的影响，并提供了理论和实践上的见解。
阿里开源 CosyVoice2：打造 TTS 文本转语音实战应用
蜗牛的博客
05-23 729
阿里通义实验室推出的音频基座大模型 FunAudioLLM 包含 SenseVoice 和 CosyVoice 两大模型。CosyVoice 2.0 在多语言支持、超低延迟、高精度、强稳定性和自然体验方面均有显著提升。它支持中文、英文、日文、韩文及多种中文方言，并实现了跨语言和混合语言的语音克隆。CosyVoice 2.0 集成了离线和流式建模技术，首包合成延迟低至150毫秒，发音错误率减少了30%到50%，并在基准测试中达到了最低字符错误率。
马尔可夫链（AI、ML）：逻辑与数学的交汇
项目git同名小胡说技书
05-20 1132
# 马尔可夫链摘要 马尔可夫链是一种随机过程，其核心特性为"无记忆性"：系统的未来状态仅依赖于当前状态，而与历史路径无关。通过状态空间和转移概率矩阵，马尔可夫链能够描述系统如何从一个状态变化到另一个状态。这一理论广泛应用于人工智能、自然语言处理和蒙特卡洛方法中。从逻辑学角度看，马尔可夫链体现了确定性规则与不确定性结果的结合，为复杂系统分析提供了强大工具，展示了概率论与逻辑学的深度融合。
YOLO12改进-Backbone-引入Swin Transformer替换backbone
最新发布
qq_64693987的博客
05-23 797
在计算机视觉领域，卷积神经网络（CNNs）和Transformer架构分别在不同任务中取得了显著成功。受Transformer在自然语言处理中的启发，研究人员将其应用于视觉任务，但面临计算复杂度高等挑战。SwinTransformer通过引入滑动窗口机制和层次化设计，有效降低了计算复杂度，同时保持了Transformer的建模能力。改进后的SwinTransformer结合了移位窗口自注意力和相对位置偏差，进一步提升了模型性能。此外，SwinTransformer与YOLOv12的结合，通过层次化特征图和移
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值