微软：LLM交互式推测规划提高agent效率

📖标题：Interactive Speculative Planning: Enhance Agent Efficiency through Co-design of System and User Interface
🌐来源：arXiv, 2410.00079

摘要

🔸代理作为以用户为中心的工具，越来越多地被部署用于人工任务委托，通过生成想法、与用户代理交互和制定行动计划来协助处理各种请求。然而，由于两个主要因素，基于大型语言模型（LLM）的代理通常会面临相当大的规划延迟：底层LLM因其庞大的规模和高需求而导致的效率限制，以及代理因大量生成中间思想以产生最终输出而导致的结构复杂性。
🔸鉴于服务提供的低效会破坏自动化对用户的价值，本文提出了一种以人为中心的高效代理规划方法——交互式推测规划，旨在通过系统设计和人机交互提高代理规划的效率。我们的方法提倡代理系统和用户界面的共同设计，强调了能够流畅地管理用户交互和中断的代理系统的重要性。通过将人为干预作为系统的基本组成部分，我们不仅使其更加以用户为中心，而且通过人机交互来提供准确的中间步骤，加快了整个过程。代码和数据将被发布。

🛎️文章简介

🔸研究问题：通过系统设计和人机交互的协同设计，解决代理（agent）在执行任务时的延迟现象。