c_cpp_csharp的专栏

现有针对大语言模型（LLMs）的长上下文基准测试，主要侧重于评估模型对长输入的理解能力，却忽视了对其长推理能力的评估。为填补这一空白，我们提出了LONGREASONARENA——一个专门用于评估大语言模型长推理能力的基准测试集。该基准测试集中的任务要求模型通过执行多步骤算法来解决问题，这些算法体现了长推理的关键方面，如检索和回溯。通过控制输入，所需的推理长度可任意调整，对于最具挑战性的任务，推理长度甚至能达到100万tokens。

推理大型语言模型（RLLMs），如OpenAI-O3和DeepSeek-R1，近年来通过执行结构化多步推理展现出卓越能力。然而，近期研究发现，RLLMs常存在“过度思考”问题——即便面对简单问题，也会生成不必要的冗长推理链，导致token消耗过多和计算效率低下。有趣的是，我们观察到，当以批量模式处理多个问题时，由于隐式的资源竞争，RLLMs会通过动态压缩简单问题的推理步骤，表现出更高效的资源利用行为。

提升大型语言模型（LLMs）的数学推理能力需要高质量的训练数据，然而传统方法在可扩展性、成本和数据可靠性方面面临严峻挑战。为解决这些局限，我们提出一种新颖的程序辅助合成框架，该框架能系统性地生成高质量数学语料，并确保其具备多样性、复杂性与正确性。此框架整合数学知识体系与特定领域工具，生成可执行程序；随后将这些程序转化为自然语言“问题-解答”对，并通过双边验证机制进行筛选——该机制一方面验证解答与程序输出的一致性以确保正确性，另一方面保障程序与问题的匹配性。

大型语言模型（LLMs）在自然语言处理方面展现出令人印象深刻的能力，但在需要深度推理和外部知识整合的知识密集型任务中，仍难以表现出色。尽管检索增强生成（RAG）和思维链（CoT）等方法已被提出，用于为LLMs补充外部知识，但这些方法仍受限于LLMs的内部偏差，这往往会导致错误答案的产生。在本文中，我们提出了一种新颖的因果提示框架——条件前门提示（CFD-Prompting）。该框架能够在外部知识的条件下，实现查询与答案之间因果效应的无偏估计，同时减轻内部偏差。

大型语言模型发展迅速，但没有任何一个单一模型能在所有领域都表现出色——每个模型都有其优势与劣势。我们没有仅依赖单个模型，而是从分布式系统中的流言协议（Gossip Protocols）中汲取灵感：在该协议中，节点会与同伴交换信息，直至所有节点达成一致。在本研究构建的框架中，模型通过交换答案逐步推进，最终形成统一解决方案。每个大型语言模型都作为对等网络（Peer-to-Peer Network）中的一个节点，通过共享响应与思考过程达成集体决策。

本文针对大型语言模型在处理需结构化知识的任务时存在的推理链缺失和实体级语义理解不足问题，提出了一种基于知识图谱注入的微调算法框架。该方法以预训练语言模型为基础，引入结构化图信息进行辅助学习。具体而言，利用图神经网络对实体及其关系进行编码，构建基于图的语义表示；随后设计融合机制，将知识图谱嵌入与语言模型的上下文表示进行联合建模。为提升知识融合的鲁棒性，引入门控机制动态平衡语言语义与结构知识的贡献，有效缓解不同表示空间之间的冲突。

大型语言模型（LLMs）会产生逻辑不一致的幻觉，这类幻觉看似连贯却违背推理原则。近期研究表明，因果推理能力与此类幻觉存在负相关。然而，LLMs中现有的推理方法（如思维链（CoT）及其基于图的变体）均在语言token层面运行，并未对变量间的潜在因果关系进行建模，缺乏表示条件独立性或满足因果识别假设的能力。为填补这一空白，我们提出因果DAG构建与推理监督微调框架（CDCR-SFT）：该框架通过监督微调训练LLMs，使其显式构建变量级别的有向无环图（DAG），再基于此图进行推理。

LLMs推理现状：LLMs在多任务中表现出色，但复杂推理能力薄弱，仅能复现训练数据中的推理步骤，无法实现真正的逻辑推理，而强推理能力是通往通用人工智能（AGI）的关键里程碑。推理任务形式化：给定输入问题Q和背景知识K，推理目标是通过推理路径Z（由一系列中间步骤z1z2znz1​z2​...zn​组成）得到答案A，满足AfQKA=f(Q,K)AfQK（f为映射函数），且每个中间步骤zigiQKz1zi−1zi​gi​QK。

类比推理是人类认知的核心，为各类智力活动奠定重要基础。尽管已有研究表明大型语言模型（LLMs）能够表示任务模式和表层概念，但这些模型是否能编码高层关系概念并通过结构化比较将其应用于新场景，仍有待探究。本文通过比例类比和故事类比探究这一核心问题，并得出三项关键发现。首先，LLMs能有效编码类比实体间的潜在关系；在正确推理案例中，属性信息和关系信息均会通过中上层网络传递，而推理失败则反映出这些网络层中缺失关系信息。

大语言模型（LLMs）在解决数学问题时常常出现推理错误，如何自动检测并修正这些错误已成为一个重要的研究方向。然而，现有方法主要侧重于模型内部的自修正，未能满足教育场景中所需的“教师式”修正——即系统地引导和修正学生的解题过程。为填补这一空白，我们提出了SMRC（学生数学推理修正）方法，一种使LLMs与学生推理对齐的新型框架。具体而言，SMRC将学生推理建模为多步序列决策问题，并引入蒙特卡洛树搜索（MCTS）探索最优修正路径。

核心问题指出：现有dLLM的轨迹型RL方法普遍采用均匀子采样策略，假设所有去噪步骤同等重要，但这一假设存在缺陷——推理过程中仅少数“关键节点”决定最终成败，均匀分配梯度预算会浪费计算资源在无意义步骤上，导致训练不稳定、推理精度不足。轨迹动态分析。

自一致性（SC）是一种广泛使用的测试时推理技术，用于提升大语言模型（LLM）在思维链推理任务中的性能。该技术通过从大语言模型生成多个响应（或称“样本”），并选择出现频率最高的答案，本质上可视为一种多数投票或经验模式估计方法。尽管效果显著，但在数据集上直接应用时，传统SC的计算成本极高，且缺乏对样本效率和缩放行为的统一理论分析。本文基于模式估计和投票理论，首次对SC及其变体的缩放行为进行了全面分析，推导并通过实证验证了SC在不同数据集上的幂律缩放特性，同时分析了固定分配和动态分配采样方案的样本效率。

多模态大语言模型（MLLMs）在生物医学成像领域的应用日益广泛，但显微镜图像的科学推理能力仍受限于缺乏大规模、高质量的训练数据。本文提出MicroVQA++，这是一个基于BIOMEDICA档案库、通过三阶段构建的大规模高质量显微镜视觉问答（VQA）语料库。第一阶段从同行评审文章中提取专家验证的图像-标题对作为初始监督数据；第二阶段引入HiCQA-Graph——一种新颖的异构图模型，通过融合基于自然语言推理（NLI）的文本蕴含、基于CLIP的视觉-语言对齐及智能体信号，识别并过滤不一致样本；

人工智能工具已在病理学领域提升了筛查效率、标准化了定量分析，并揭示了可为治疗提供参考的预后模式。然而，这些工具的应用仍受到限制，因为大多数系统缺乏人类可理解的推理过程，难以审计诊断决策并预防错误。本文提出RECAP-PATH——一种可解释性框架，其建立了自学习范式，将现成的多模态大型语言模型从被动的模式识别转变为证据关联的诊断推理。该框架的核心是两阶段学习过程，能够自主推导诊断标准：多样化阶段扩展病理风格的解释内容，优化阶段则提升这些解释的准确性。

问题提出：工具增强语言模型（如集成代码解释器的LLMs）虽能提升任务准确率，但即使工具选择和执行正确，模型仍可能将工具输出替代自身推理，导致解决方案看似正确却缺乏连贯论证，这种现象被定义为“工具诱导短视（TIM）”。研究设计构建基准数据集PYMATH，包含1679道竞赛级数学题，这类题目需代码辅助但无法仅靠代码完全解决，专门用于诱发和测量TIM；

定义自适应推理：模型根据输入的难度、不确定性等特征，灵活分配推理资源（如推理深度、长度、策略）的能力——对简单任务快速响应，对复杂/陌生任务投入更多刻意推理，契合人类认知资源分配模式。形式化三大经典推理范式：在LLM语境下明确演绎推理（基于逻辑规则推导必然结论）、归纳推理（从示例中泛化隐含规则）、溯因推理（为观测结果生成合理解释）的算法实现形式。

大语言模型（LLMs）已展现出卓越的推理能力，但现有测试时框架往往依赖粗糙的自我验证和自我修正，限制了其在复杂任务上的效果。本文提出苏格拉底式自我优化（SSR），这是一种用于LLM推理细粒度评估和精准优化的新型框架。我们提出的SSR将模型响应分解为可验证的（子问题、子答案）对，通过受控重解和自一致性校验实现步骤级置信度评估。通过定位不可靠步骤并迭代优化，SSR能生成更准确、更具可解释性的推理链。在5个推理基准和3种LLM上的实证结果表明，SSR持续优于最先进的迭代自我优化基线。

本文聚焦低资源语言（波斯语）医疗领域小语言模型的推理能力提升问题，核心研究如何在有限数据条件下，通过推理导向的训练方法超越单纯的数据规模扩展效果。研究背景：基于Transformer的语言模型擅长“快速思考”类任务（如模式匹配、表层文本生成），但在医疗等专业领域的“慢速思考”（多步骤推理、逻辑推断）任务中表现不足；而波斯语作为低资源语言，缺乏高质量医疗数据集和计算资源，进一步加剧了这一问题。核心方法。

本文聚焦大语言模型（LLMs）的多元价值对齐问题，提出COUPLE框架，通过结构因果模型（SCM）和反事实推理，解决现有方法在价值复杂性（忽略价值间依赖与优先级）和价值可控性（难以精准调控细粒度价值）上的核心挑战，实现更准确、可解释的多元价值对齐。随着大型语言模型（LLMs）日益融入服务不同文化、社群和人群的应用中，使模型对齐超越平均原则（如有益性、诚实性、无害性HHH）的多元人类价值至关重要。在施瓦茨价值理论等心理学和社会价值理论中，多元价值通过多个价值维度及其优先级组合来体现。

本文评估了大型语言模型（LLMs）翻译含句间依赖文本的能力。我们采用英语-法语DiscEvalMT基准测试集（Bawden等人，2018），该数据集包含成对句子，分别涉及代词回指或词汇衔接相关的翻译挑战。我们对来自DeepSeek-R1、GPT、Llama、Mistral和Phi家族的12个LLM进行了两项任务评估：（1）区分正确翻译与看似合理的错误翻译；（2）生成正确翻译。我们对比了鼓励思维链推理的提示词与不鼓励推理的提示词效果。

本文评估了大型语言模型（LLMs）翻译包含句间依赖文本的能力。我们采用英语-法语DiscEvalMT基准测试集（Bawden等人，2018），该数据集包含成对句子，分别涉及代词指代或词汇衔接相关的翻译挑战。我们对来自DeepSeek-R1、GPT、Llama、Mistral和Phi家族的12个LLM进行了两项任务测试：（1）区分正确翻译与看似合理的错误翻译；（2）生成正确翻译。我们对比了鼓励思维链推理的提示词与不鼓励推理的提示词效果。

该研究评估了12个不同家族（DeepSeek-R1、GPT、Llama、Mistral、Phi）的大语言模型（LLMs）在上下文感知翻译中的表现，聚焦句间指代照应和词汇衔接两大核心挑战。研究采用DiscEvalMT英-法基准数据集，设计了两项任务：一是区分正确与看似合理的错误翻译（对比任务），二是直接生成符合上下文的正确翻译（翻译任务），并对比了鼓励思维链（CoT）推理的提示词与无推理提示词的效果。

大型语言模型（LLMs）已展现出强大的推理能力，OpenAI的O系列和DeepSeek R1等模型通过带可验证奖励的强化学习（RLVR），在数学、编码、逻辑和谜题等任务中表现优异。然而，它们解决更复杂优化问题（尤其是NP难任务）的能力仍未得到充分探索。为填补这一空白，我们提出NP-ENGINE——首个用于在NP难问题上训练和评估LLMs的综合框架。NP-ENGINE涵盖5个领域的10项任务，每项任务均具备：（i）可控实例生成器，（ii）规则化验证器，以及（iii）启发式求解器（提供近似最优解作为基准真值）

该研究聚焦辅助生殖技术（ART）领域，旨在评估大型语言模型（LLMs）生成的临床思维链（CoT）的可靠性，并探索优化提示策略以提升生成质量。研究采用盲法对比设计，通过三种提示策略（零样本、随机少样本、选择性少样本）生成CoT，由资深ART临床医生和GPT-4o（AI评估器）进行双维度评估。选择性少样本策略在所有人类评估指标（逻辑连贯性与清晰度、关键信息利用与覆盖、推理合理性与临床准确性）上显著优于其他两种策略（p<.001），其优势源于“金标准深度”（推理质量）和“代表性多样性”（泛化能力）双原则；

本文提出了CES任务，用于评估大型语言模型（LLMs）在模拟程序执行及将该推理应用于编程任务中的能力。除了测量执行模拟过程中变量预测的正确性外，CES还引入了“连贯性”概念，以判断模拟是否符合常识性执行逻辑——即便模拟过程中的预测值不正确。这一设计使CES能够排除因推理捷径、幻觉或潜在数据泄露导致的“可疑正确”输出预测。此外，CES还提出了一种新颖的度量标准，用于评估模型在具有相同或不同基本路径覆盖的测试用例间的推理一致性，并将其划分为强、弱、随机三个等级。

近年来，视觉-语言学习领域通过整合海量世界知识，在完整信息问答数据集上取得了显著成功。然而，大多数模型均以被动方式运行，仅基于预存储的知识响应问题。与之形成鲜明对比的是，人类具备主动探索、积累信息并利用新获取知识与既有知识进行推理的能力，能够应对信息不完全的问题。为填补这一空白，我们提出了 🔍 Conan——一个用于评估主动推理能力的交互式开放世界环境。🔍 Conan 支持主动探索，并促进多轮溯因推理，其场景类似于《我的世界》等丰富的开放世界设定。

本文聚焦大型语言模型（LLMs）的形式化因果推理能力评估，核心解决现有研究多关注常识性因果知识、缺乏对形式化因果推理规则遵循的问题。作者提出新NLP任务（自然语言中的因果推理）、构建CLADDER数据集（10K样本，覆盖因果阶梯三层任务），并设计CAUSALCOT提示策略。实验显示，CLADDER对LLMs极具挑战性，CAUSALCOT能将GPT-4准确率提升8.37个百分点至70.40%，且模型性能随因果阶梯层级升高而递减，揭示了LLMs在高阶因果推理中的局限性。因果推理能力被广泛认为是智能的核心特征。

尽管大型语言模型（LLM）在推理任务中取得了近期成功，但它们在生成复杂程序等分层多步推理任务中仍面临挑战。对于这类任务，人类通常会从高层算法设计入手，逐步实现每个部分。我们提出了 Parsel，一个支持通过代码 LLM 自动实现和验证复杂算法的框架。借助 Parsel，我们能将算法任务自动分解为分层的自然语言函数描述，然后通过测试搜索可能的函数实现组合。我们证明 Parsel 可应用于需要分层推理的多个领域，包括程序合成和机器人规划。

先进的大型语言模型（LLMs）在思维链（CoT）推理中常进行反思，自我验证当前解决方案的正确性并探索替代方案。然而，近期研究发现LLMs在CoT中检测错误的能力有限，反思为何能带来实证性能提升仍不明确。为解决这一问题，本文提出极简推理框架，支持小型Transformer在无自然语言的情况下实现基础自验证反思，确保分析清晰度并降低大规模实验成本。理论上，我们证明：若验证误差得到适当约束，自验证反思能保证推理性能提升。

本文聚焦机器人领域的视觉-语言-动作（VLA）模型，针对现有VLA系统在微调过程中易丢失预训练视觉-语言模型（VLM）核心能力（如开放世界推理、数学推理、空间推理等）的问题，提出了ChatVLA-2模型。该模型通过动态混合专家（Dynamic MoE）架构和两阶段训练策略，在保留VLM预训练知识的同时，实现了推理与机器人动作的有效对齐。数学匹配游戏：机器人识别白板上的数学方程，从候选卡片中选择正确答案并放置，评估模型的OCR、数学推理和操作能力；玩具放置任务。

近期研究表明，大型语言模型（LLMs）能够进行隐式多跳推理——无需显式表述中间步骤即可生成正确答案，但这一能力背后的机制仍未被充分理解。本文通过在受控符号环境中从零训练Transformer模型，探究此类隐式推理能力的形成过程。分析结果揭示了一个三阶段发展轨迹：初始阶段为记忆阶段，随后是分布内泛化阶段，最终达到跨分布泛化阶段。研究发现，原子三元组的训练并非必需，但能加速学习进程；而第二跳泛化能力的形成依赖于训练中对特定组合结构的查询级暴露。

大型语言模型（LLMs）的兴起推动了推理任务的进步，从程序合成到科学假设生成均有涉猎，但它们在组合领域处理排序偏好和结构化算法的能力仍未得到充分探索。本文研究匹配市场这一核心框架——其广泛应用于资源分配、拼车等场景，需要协调个体排序偏好以确保稳定结果。我们在一系列基于偏好的推理任务（从稳定匹配生成、不稳定性检测、不稳定性解决到细粒度偏好查询）上评估了7个最先进的模型，系统揭示它们在处理排序输入时的逻辑和算法局限。

近期研究表明，大型语言模型（LLMs）具备解决图推理任务的能力。值得注意的是，即便图结构嵌入在文本描述中，LLMs 仍能有效回答相关问题。这引发了一个核心疑问：纯解码器 Transformer 架构如何理解底层图结构？为解答该问题，我们从子结构提取任务切入，解析 Transformer 的内部机制并分析输入查询的影响。具体而言，通过实证结果与理论分析，我们提出诱导子结构过滤（ISF）视角，用于刻画多层 Transformer 中的子结构识别过程。

近年来的研究表明，让模型通过更长的思维链（CoT）投入更多时间思考，能够显著提升其在复杂推理任务中的表现。尽管当前研究仍在探索通过延长大型语言模型（LLM）的思维链长度来增加测试时计算量的益处，但我们关注到当前对测试时缩放的追求背后隐藏着一个潜在问题：过度缩放思维链长度是否会对模型的推理性能产生不利影响？我们在数学推理任务上的探索揭示了一个意外发现：在特定领域中，使用更长的思维链进行缩放确实会损害LLM的推理性能。此外，我们发现不同领域存在不同的最优缩放长度分布。

基于策略的方法目前在大语言模型（LLM）推理的强化学习（RL）流程中占据主导地位，而基于价值的方法尚未得到充分探索。本文重新审视了经典的贝尔曼残差最小化范式，提出轨迹贝尔曼残差最小化（TBRM）算法——该算法自然地将这一思想适配到LLM中，形成一种简单有效的离线策略算法。TBRM利用模型自身的对数几率（logits）作为Q值，优化单一的轨迹级贝尔曼目标函数，无需评论家模型、重要性采样比率或裁剪机制，且每个提示仅需一次轨迹采样即可运行。

本文从信息论视角探究大型推理模型（LRMs）的内部推理机制，核心发现是互信息峰值（MI Peaks）现象——LRMs推理过程中，特定步骤的中间表示与正确答案的互信息（MI）会突然显著提升。这些峰值对应表达反思、过渡的“思考令牌”（如“Hmm”“Wait”“Therefore”），且此类令牌对推理性能至关重要。基于该发现，作者提出两种无训练优化方法：表征循环（RR）和基于思考令牌的测试时扩展（TTTS），均有效提升了LRMs在数学推理等任务上的性能。

从示例中识别模式并应用于新场景的能力是通用智能的核心能力，心理学和人工智能研究者已对其展开广泛研究。现有许多基准用于评估大语言模型（LLMs）的此类能力，但它们多聚焦于少示例（通常少于10个）场景，且缺乏对长上下文海量信息聚合能力的评估。另一方面，LLMs不断增长的上下文长度催生了新的多示例上下文学习（ICL）范式，无需昂贵且低效的微调，仅通过数百至数千个示例即可应对新任务。然而，多示例评估大多集中于分类任务，而“大海捞针”（NIAH）等主流长上下文LLM任务通常不需要整合海量信息的复杂智能。

该文章聚焦于自然语言处理中的少样本学习（Few-Shot Learning）问题，针对现有方法在数据稀缺场景下泛化能力不足、依赖大量预训练数据或复杂提示工程的局限，提出了一种新型的少样本学习框架（具体名称需结合模型细节，文中核心围绕“高效利用有限样本+轻量化适配”展开）。

视觉语言模型（VLMs）在各类图像理解任务中展现出令人印象深刻的能力，但在需要对视频中的长序列相机帧进行推理的场景中仍存在不足。这限制了它们在具身场景中的实用性——此类场景要求在任务执行的每个时刻，都能基于连续的视觉输入流对长帧序列进行推理。为解决这一局限，我们提出ROVER（递归视频推理框架，Reasoning Over VidEo Recursively），该框架能使模型将长时程视频轨迹递归分解为对应轨迹内较短子任务的片段。

大型语言模型（LLMs）在通过生成形式化规范普及自动推理方面展现出巨大潜力。然而，存在一个根本性矛盾：LLMs是概率性的，而形式化验证需要确定性保证。本文通过全面研究LLM生成的形式化产物中的失效模式和不确定性量化（UQ），解决了这一认识论鸿沟。我们对五个前沿LLM的系统评估表明，基于可满足性模理论（SMT）的自动形式化对准确率具有领域特异性影响（逻辑类任务提升34.8%，事实类任务下降44.5%），而令牌概率熵等现有UQ技术无法识别这些错误。