![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
生成-数学推理
文章平均质量分 92
nopSled
一周一更
展开
-
Autoformalization with Large Language Models翻译
自动正规化是指将数学自然语言自动转化为正规语言的任务。成功的自动正规化工具在实践和理论研究上都具有巨大的意义。它能够降低当前正规化工作的成本,从长远来看,它可以将能进行自动数学推理的各个研究领域(例如自动定理证明和计算机代数)与由自然语言描述的数学知识连接起来。此外,自动正规化将是机器理解、掌握自然语言模糊性和正规语言准确性的正确途径。最近大语言模型的进步显示出理解正规语言的有希望的能力。但是,现有的成功仅限于在网络上存在大量语料的正规语言(例如Python语言)。正规的数学数据非常稀缺。翻译 2022-09-05 16:52:55 · 274 阅读 · 0 评论 -
Seeking Patterns, Not just Memorizing Procedures:Contrastive Learning for Solving MWP翻译
数学单词问题(MWP)求解需要发现自然语言描述中的数值关系。最近的工作表明,现有模型通过从上下文中记住答题过程,并依靠浅启发式方法来求解MWP。在本文中,我们研究了这个问题,并认为其原因是模型对MWP模式缺乏整体理解。我们首先研究了神经网络如何从语义中理解模式,并观察到,如果具有相同的像n1+n2n_1+n_2n1+n2这样的原型方程,那么大多数问题都会具有非常接近的表示,并且远离这些表示或靠近其他原型的表示往往会产生错误的解决方案。受到它的启发,我们提出了一种对比学习方法,通过神经网络来感知模式的差异翻译 2022-06-14 14:16:12 · 441 阅读 · 0 评论 -
Learning to Reason Deductively: Math Word Problem Solving as Complex Relation Extraction翻译
摘要翻译 2022-06-10 15:26:09 · 624 阅读 · 2 评论 -
Improving Math Word Problems with Pre-trained Knowledge and Hierarchical Reasoning翻译
摘要翻译 2022-03-01 14:43:53 · 410 阅读 · 11 评论 -
Generate & Rank: A Multi-task Framework for Math Word Problems
摘要数学单词问题(MWP)是自然语言处理中的具有挑战性且重要的任务。许多最近的研究将MWP定义为生成任务,并采用了序列到序列模型来将问题描述转换为数学表达式。然而,数学表达式易于生成较小的错误,而生成目标无法明确处理这种错误。为解决此限制,我们为MWP设计了一个新的排名任务,并提出了一种基于生成预训练语言模型的多任务框架,Generate & Rank。通过生成和排名的联合训练,模型能从自己的错误中学习,且能够区分正确和不正确的表达式。同时,我们专为MWP和在线更新而设计基于树的干扰,以提高排名器翻译 2022-02-28 13:33:02 · 463 阅读 · 0 评论 -
Recall and Learn: A Memory-augmented Solver for Math Word Problems
摘要在本文中,我们旨在解决数学单词问题,即根据其文本描述自动回答数学问题。虽然最近提出的方法已经证明了他们具有比较好的结果,但大多数这些方法都基于基于模板的生成方案,这导致了有限的泛化能力。为此,我们提出了一种召回和学习方式的新型类人学习方法。我们所提出的框架存储模块,表示模块,类比模块和推理模块组成,旨在通过参考过去学到的练习来回答新的练习。具体地,给定一个数学单词问题,模型首先通过存储器模块检索相似的问题,然后使用表示模块对每个检索的问题进行编码。此外,为了以类比的方式解决问题,提出了一种具有复制机制翻译 2022-02-24 15:47:43 · 405 阅读 · 0 评论 -
Training Verifiers to Solve Math Word Problems翻译
摘要最优的语言模型可以在许多任务中匹配人类性能,但它们在执行多步数学推理上仍然困难。为了诊断当前模型的缺陷,并支持科学研究,我们引入了GSM8K,是一个高质量的8.5k大小的小学数学单词问题的数据集。我们发现即使是最大的transformer模型也无法达到高的测试集性能,尽管该问题分布的概念很简单。为了提高性能,我们提出训练verifiers来判断模型解答的正确性。在测试期间,我们生成许多候选解决方案,并选择verifiers排名最高的解决方案。我们证明,verifiers能显着提高模型在GSM8K上的性翻译 2021-11-10 11:36:10 · 1306 阅读 · 2 评论 -
Neural-Symbolic Solver for Math Word Problems with Auxiliary Tasks翻译
摘要数学单词问题任务中,先前使用encoder-decoder框架的工作未明确地结合数学符号约束,导致无法解释和生成不合理的预测。这里,我们提出了神经符号求解器(NS-Solver)以通过辅助任务来显示地纳入不同级别的符号约束。我们的NS-Solver包括一个problem reader来编码问题,programmer来生成符号方程,以及symbolic executor以获得答案。与目标表达式的监督学习一起,我们的NS-Solver还通过4个新的辅助目标进行了优化,以强制执行不同的符号推理:a)self翻译 2021-09-04 15:53:58 · 423 阅读 · 0 评论 -
Math Word Problem Solving with Explicit Numerical Values翻译
摘要近年来,数学单词问题求解吸引了相当多研究人员的关注并取得了有希望的结果,但之前的方法很少考虑数值单词。 大多数方法将问题中的数值视为数字符号,忽略数值在解决问题时的重要作用。在本文中,我们提出了一种称为NumS2T的新方法,其通过显示地将数值结合到sequence-to-tree网络,来增强数学单词问题求解的性能。另外,使用数值属性预测机制用于捕获数字和比较信息的数据,并测量它们在全局表达式中的重要性。 在Math23K和APE数据集上的实验结果表明,我们的模型比现有的最先进模型达到了更好的性能。1翻译 2021-08-31 18:40:09 · 610 阅读 · 1 评论 -
Inter-GPS: Interpretable Geometry Problem Solving翻译
摘要数学几何问题的解决最近在NLP社区中引起了很多关注。这项任务是具有挑战性的,因为它需要具备抽象问题的理解能力和定理知识的符号推理能力。但是,当前数据集要么很小或不开源。因此,我们构建了一个新的基准数据集,Geometry3K,由3,002个几何问题组成,具有形式化语言的密集注释。我们进一步提出了一种使用形式化语言和符号推理的新型几何求解方法,称为Interpretable Geometry Problem Solver (Inter-GPS)。Inter-GPS 首先通过基于规则的文本解析和神经目标检翻译 2021-07-30 15:52:54 · 1144 阅读 · 1 评论 -
DEEP LEARNING FOR SYMBOLIC MATHEMATICS翻译
摘要历史经验表明,神经网络在解决统计或近似问题方面比在执行计算或处理符号数据方面更胜一筹。然而,在这篇论文中,我们展示了它们在数学推理这一更复杂的任务上的表现令人惊讶,例如符号积分和求解微分方程。我们提出了一种表示数学问题的语法,以及生成可用于训练序列到序列模型的大型数据集的方法。我们取得的结果优于商业计算机代数系统,如 Matlab 或 Mathematica。1.介绍机器学习的一个长期传统反对基于规则的推理来进行统计学习,而神经网络显然在统计方面具有很大优势。它们已被证明在统计模式识别方面极为有效翻译 2021-07-15 16:17:27 · 413 阅读 · 2 评论 -
ANALYSING MATHEMATICAL REASONING ABILITIES OF NEURAL MODELS翻译
摘要翻译 2021-07-09 17:03:29 · 214 阅读 · 0 评论