- 博客(1458)
- 收藏
- 关注
原创 阿里:编码智能体奖励验证体系
随着编码智能体生成能力增强,如何设计可靠且能持续进化的验证奖励信号以解决奖励欺骗问题?论文提出验证器需与生成器协同进化的核心理念,并针对四类任务构建了定制化验证体系以提升模型真实能力。
2026-07-06 10:00:00
78
原创 阿里:直接策略驱动的大模型安全对齐
如何解决大模型安全对齐中自然语言策略更新快与高质量标注数据获取慢之间的时效性错配问题?论文提出PolicyAlign框架,无需人工标注数据即可将自然语言安全策略直接内化为模型参数,实现快速、可扩展的安全对齐。
2026-07-06 08:00:00
31
原创 Meta:智能体自主构建高质量数据
如何让AI智能体像数据科学家一样自主迭代生成并优化高质量合成训练数据?论文提出Autodata框架及Agentic Self-Instruct方法,通过智能体闭环与元优化显著提升合成数据质量与模型训练效果。
2026-07-05 10:00:00
343
原创 阿里:语言世界模型赋能通用智能体
如何构建基于语言模型的通用环境模拟器,并探索其提升智能体能力的有效范式?论文提出覆盖七大领域的原生语言世界模型Qwen-AgentWorld,验证了其作为环境模拟器和智能体基座的双重价值。
2026-07-05 08:00:00
643
原创 百度:渐进多令牌预测加速文档解析
如何解决视觉语言模型在文档解析任务中因自回归解码导致的推理延迟高及多令牌预测深层优化不稳定的问题?论文提出P-MTP框架,通过渐进课程损失和置信度门控动态起草机制,实现文档解析高达5倍加速且精度无损。
2026-07-04 10:00:00
318
原创 蚂蚁:高效多模态搜索智能体框架
如何解决现有多模态搜索智能体在训练效率、证据可靠性及系统实用性方面面临的瓶颈?论文提出SimpleSearch-VL框架,通过自适应采样、证据验证及自摘要机制,以极少数据实现媲美顶级闭源模型的性能。
2026-07-04 08:00:00
642
原创 百度:R-SWA实现无限长文档解析
如何解决端到端OCR模型在长序列生成时KV缓存无限增长导致显存爆炸和推理变慢的问题?论文提出参考滑动窗口注意力机制R-SWA,使模型能在恒定显存下一次性解析数十页文档且性能更优。
2026-07-03 10:00:00
411
原创 AllenAI:终端智能体强化学习训练配方
如何构建简单有效的开源数据与强化学习配方以训练高性能小参数终端智能体?论文提出TMAX开源RL训练配方及包含1.46万环境的大规模数据集,使9B模型在Terminal-Bench上超越同类开源模型并逼近闭源前沿水平。
2026-07-03 08:00:00
400
原创 蚂蚁:策略自适应多模态安全护栏
如何解决现有多模态安全护栏依赖固定分类体系、无法适应运行时动态策略变更及推理效率低下的问题?论文提出了支持运行时策略自适应和快慢动态推理的多模态护栏模型SingGuard,并构建了 comprehensive 评测基准。
2026-07-02 10:00:00
689
原创 腾讯:混合环境训练手机智能体
如何训练开源模型使其在真实手机上可靠完成任务,而非仅提升界面感知或基准测试分数?论文提出PhoneBuddy训练方案,通过结合真实应用与可重置模拟环境进行混合强化学习,显著提升开源模型在真机任务中的成功率。
2026-07-02 08:00:00
315
原创 美团:DEAR精准蒸馏推理证据
在策略蒸馏中,如何发现并转移那些学生模型自信但错误的实质性推理证据?论文提出DEAR方法,通过两阶段机制同时捕获决策与证据token,显著提升推理蒸馏效果。
2026-07-01 10:00:00
295
原创 阿里:置信解码缓解对齐扰动
大语言模型最终层的对齐扰动是否会损害复杂推理能力,以及如何在不训练的前提下缓解这一问题?论文揭示了LLM“猜测-精炼-扰动”的动态机制,并提出无需训练的置信解码策略,通过动态选择熵谷层有效缓解对齐税并提升推理性能。
2026-07-01 08:00:00
213
原创 蚂蚁:UFP4修正FP4训练收缩偏差
如何解决主流E2M1格式在FP4预训练中因几何不对称导致的系统性收缩偏差及训练不稳定问题?论文揭示了非均匀格式的收缩偏差根源,提出基于均匀网格的UFP4配方,实现了全路径RHT并显著提升训练精度。
2026-06-30 10:00:00
424
原创 阿里:头级混合注意力架构HydraHead
如何克服层间混合策略的局限,在头粒度上有效融合全量与线性注意力以兼顾长文本与推理能力?论文提出HydraHead架构,通过可解释性驱动的头选择与尺度归一化融合,实现高效的头级注意力混合。
2026-06-30 08:00:00
510
原创 上海AI Lab:多模态生物基础模型BioMatrix
如何在单一架构中原生整合分子/蛋白质的序列、结构和自然语言三种模态,实现跨模态跨实体的统一生物智能?论文提出BioMatrix,在单一decoder-only架构中原生整合分子序列、分子结构、蛋白质序列、蛋白质结构和自然语言五种模态的多模态生物基础模型,在80个任务中的77个达到SOTA或竞争力水平。
2026-06-29 10:00:00
586
原创 蚂蚁:奖励驱动在线合成工具数据
🔸研究问题:如何解决多轮工具使用强化学习中静态数据集信息样本快速耗尽及语义不连贯的问题?论文提出RODS框架,利用奖励方差动态检测能力边界并合成结构化同构数据,以二十分之一的数据量达到大规模离线合成性能。
2026-06-29 08:00:00
436
原创 阿里:构建微反思轨迹实现自蒸馏
现有自蒸馏方法仅通过隐式分布对齐训练模型,导致模型无法从自身错误中获得显式诊断与修正指导,如何改进?论文提出TAPO框架,通过构建基于模型自身错误的微反思修正轨迹,将自蒸馏从隐式对齐推进到显式轨迹学习,显著提升推理与纠错能力。
2026-06-28 10:00:00
260
原创 英伟达:提示词引导的小模型策略优化
如何在避免模仿教师Logits或破坏在策假设的前提下,有效将大模型知识迁移给小模型并提升其泛化能力?论文提出ZPPO方法,通过将教师指导嵌入提示词而非梯度,结合重放缓冲机制,显著提升了小参数模型在多模态任务上的推理与泛化性能。
2026-06-28 08:00:00
333
原创 阿里:语言驱动统一具身世界模型
如何利用自然语言作为统一接口,构建能跨场景、跨任务预测物理未来状态的具身智能世界模型?论文提出Qwen-RobotWorld,通过语言条件视频生成统一了操作、驾驶与导航等具身任务,并在多个基准测试中取得领先性能。
2026-06-27 10:00:00
473
原创 英伟达:大规模数据合成管道
如何解决现有公开人类轨迹数据用于桌面智能体微调时导致的负迁移及性能下降问题?论文提出ProCUA-SFT大规模合成数据集及自动化生成管线,使UI-TARS 7B在OSWorld上成功率提升至45.0%。
2026-06-27 08:00:00
181
原创 阿里:GD2PO缓解多奖励冲突
大模型后训练强化学习中,如何解决多维度奖励信号相互抵消导致优化效率低下的问题?论文提出GD2PO算法,通过冲突感知过滤和查询级重加权机制,有效消除多奖励冲突并显著提升训练效率。
2026-06-26 10:00:00
416
原创 Anthropic:编程智能体安全框架
如何系统评估并缓解AI编程智能体在非对抗场景下的破坏性失败模式?论文提出了包含三类失效机制的评估体系及AgentArmor安全增强框架,显著降低了智能体运行风险。
2026-06-26 08:00:00
323
原创 腾讯:从聊天机器人到数字同事范式
大语言模型如何从对话生成器转变为具备持久自主工作能力的数字同事?论文提出“工作区+技能”范式,系统梳理了AI从认知核心到任务执行的演进路径及评估体系变革。
2026-06-25 10:00:00
174
原创 Meta:验证器驱动自改进的隐性回退
在视觉语言模型的自DPO训练中,更强的验证器是否一定能带来更好的学生模型性能?论文揭示了验证器质量具有高度任务特异性,低准确率验证器会导致学生模型隐性回退,并提出了基于任务评分准确率的部署安全准则。
2026-06-25 10:00:00
392
原创 美团:高难度搜索智能体基准LoHoSearch
如何解决现有人工构建的搜索智能体基准测试因缺乏全局视角而迅速饱和、难以评估长程推理能力的问题?论文提出了基于知识图谱自动化构建的高难度基准LoHoSearch,通过系统控制搜索空间与结构复杂度,突破了人工标注的难度上限。
2026-06-24 10:00:00
368
原创 阿里:突破熵界加速RL训练
如何解决强化学习训练中因策略熵波动导致多Token预测接受率下降及推理加速受限的问题?论文提出Bebop方法,通过端到端TV损失和拒绝采样解耦熵与接受率的关系,实现RL训练1.8倍加速。
2026-06-24 08:00:00
649
原创 字节:长程GUI智能体评测基准
现有AI智能体能否在真实专业软件环境中自主完成具有经济价值的长程复杂工作流?论文提出了Workflow-GYM基准,填补了专业领域长程GUI任务评估空白并揭示了当前模型的核心瓶颈。
2026-06-23 10:00:00
348
原创 腾讯:平滑散度正则优化LLM强化学习
如何解决大模型强化学习中重要性比率在长尾词表下无法准确衡量分布偏移,且现有硬掩码方法缺乏修正信号导致训练不稳定的问题?论文提出DRPO算法,用平滑的优势加权二次正则项替代硬掩码,在保留绝对概率偏移信任域的同时提供连续有界的梯度修正信号。
2026-06-23 08:00:00
400
原创 腾讯:前瞻稀疏注意力实现超长上下文
如何解决大模型在超长上下文推理时KV缓存占用过高导致的显存瓶颈问题?论文提出前瞻稀疏注意力机制与解耦训练策略,将KV缓存压缩至13.5%且保持精度。
2026-06-22 10:00:00
477
原创 腾讯:持久决策历史驱动技能演化
如何让智能体在跨会话开发中持续优化技能而不丢失历史修改依据?论文提出SkillHone框架,通过持久化决策历史和角色分离机制实现智能体技能的持续演化与维护。
2026-06-22 08:00:00
581
原创 阿里:轨迹驱动SWE智能体自进化
如何解决现有软件工程智能体合成数据与模型能力短板脱节导致训练停滞的问题?论文提出Socratic-SWE闭环框架,将历史解题轨迹蒸馏为技能以指导针对性任务生成,实现智能体持续自进化。
2026-06-21 10:00:00
377
原创 百度:可追溯的多智能体深度研究框架
如何解决现有深度研究系统在长程规划、任务分解调度、幻觉抑制及过程可审计性方面的局限?论文提出DuMate-DeepResearch框架,通过解耦架构、图动态规划、递归执行及评分标准引导机制,实现了高质量且可追溯的深度研究。
2026-06-21 08:00:00
554
原创 阿里:技能驱动统一奖励模型
如何构建一个统一框架来整合规则、参考答案及核查清单等异构评估标准以解决现有奖励模型评价机制割裂的问题?论文提出Skill-RM框架,将奖励建模重构为可复用的智能体技能执行过程,通过动态编排异构资源实现了评估的一致性与透明度。
2026-06-20 10:00:00
742
原创 谷歌:大模型闭环自进化推理的泛化差距
大模型在严格的闭环设定下,完全依靠内部生成的信号进行自我评估和微调,能在多大程度上逼近拥有真实标签监督训练的效果?论文评估了四种闭环自进化策略,揭示了内部监督与真实标签监督间存在持续性泛化差距,并发现多轮反馈机制在大模型上可显著缩小该差距。
2026-06-20 08:00:00
315
原创 Meta:无Logit黑盒在线策略蒸馏
如何在无法获取教师模型Token级Logits的情况下,实现高效且鲁棒的在策略知识蒸馏?论文提出OmniOPD框架,通过块级语义验证替代Logit匹配,使黑盒模型也能作为教师进行高密度在策略蒸馏。
2026-06-19 10:00:00
581
原创 字节:任务驱动的多模态记忆策略
多模态智能体如何在无限信息流中自主决定记忆什么内容以适应未来任务?论文提出TaskMem框架,通过强化学习将记忆生成建模为可学习策略,实现任务导向的动态记忆优化。
2026-06-19 08:00:00
468
原创 Meta:量化推理模型过度思考修复
后训练量化为何导致推理模型准确率下降且思维链长度异常增加?论文揭示量化加剧了模型“过度思考”错误,并提出一种无需训练的Logit惩罚方法,在缩短推理长度的同时保持或提升准确率。
2026-06-18 10:00:00
236
原创 腾讯:代码驱动智能体图像生成
如何解决现有图像生成智能体缺乏对画布直接操控能力,仅能依赖提示词重写进行黑盒生成的局限?论文提出GenClaw范式,通过代码作为可控中间画布,实现类似人类“构思-草图-上色”的分阶段透明化图像生成。
2026-06-18 08:00:00
177
原创 阿里:ESPO早停机制优化LLM推理
如何解决大模型强化学习训练中错误推理步骤后继续生成导致的计算浪费与梯度噪声问题?论文提出ESPO算法,通过实时检测轨迹失败并提前终止生成,在提升数学推理性能的同时节省超20%的训练Token。
2026-06-17 10:00:00
174
原创 Meta:注入几何先验增强空间推理
如何在不依赖3D VQA数据微调或外挂专用3D编码器的前提下,解决视觉语言模型3D空间推理能力弱且泛化性差的问题?论文提出GASP框架,通过将几何感知空间先验直接注入LLM层并辅以双重监督,在无3D VQA训练下显著提升了模型的内部几何表征与下游空间推理性能。
2026-06-17 08:00:00
337
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅