DARPA开展“人-智编队的探索性模型”研究-CSDN博客

中国舰船研究 2024-05-27

DARPA开展“人-智编队的探索性模型”研究

据SAM网站2024年1月3日消息，DARPA信息创新办公室启动“人-智编队的探索性模型”（Exploratory Models of Human-AI Teams，EMHAT）项目，旨在开发关键技术，支持生成并评估代表人-智编队多样且现实属性的数字孪生体，以研究人-智编队在代表性运行环境中的应急能力与局限。

一、项目背景

团队对于完成超出任何个人能力的任务和目标至关重要。除了作为简单的力量倍增器，团队往往还能整合各种技能，产生超越任何学科的能力。一个多世纪以来，人类团队合作一直是研究的主题，涉及团队行为的各个方面及其在某些限制和挑战下的有效性。这些研究为团队的组建、管理和运作提供了真知灼见，极大改善团队协同能力。人类团队合作领域的许多见解都来自于对团队动态和互动机制的观察，以确定导致成功/改进或失败/恶化的过程和行为。然而，无论是在应用人类团队分析方法方面，还是在开发有效评估人机团队的新方法方面，进展都相对较小。

尽管人们早已预料到这种可能性，但在团队动力或流程效率研究中，机器历来不被视为平等的成员。尽管机器无处不在，但我们日常使用的机器在概念上仍多被视为通信渠道、计算器或参考书--需要时拿起来，完成特定功能后再收起来。然而，随着人工智能生成技术的出现和广泛应用，无论是在关键系统和流程中，还是在我们的日常生活中，人类与人工智能的相互依赖性都在不断增强。我们与机器互动的数量和程度愈发深入，我们对机器执行独立和协作任务的能力的期望也将愈发增强。这一趋势早已显而易见，但随着近期多功能、可公开获取的人工智能工具在功能性和可获取性方面的进步，这一趋势已加速发展并变得更加明显。

尽管美国国防部（DoD）已认识到人机团队合作的重要性，但对于人类-人工智能团队预期行为的理解仍存在巨大差距。此外，由于生成式人工智能技术的快速发展，人-智编队的评估范式，不足以适应可能出现的人-智编队行为的范围，这既是由于人类团队成员的多样性，也是由于人工智能代理的变化。具体来说，目前评估生成式人工智能模型的新兴行为和推理能力的方法，要么是 1）正式量化，但仅限于对狭窄任务的评估，如回答问题；2）在信息环境中进行轶事演示，如当前的自提示技术。在上述 1) 的情况下，人们对突现行为的理解并不透彻，充其量将其视为模型中令人印象深刻的现象。就上述 2) 而言，从人类或模型的角度来看，还没有系统地尝试将实际发生的情况正规化。在这两种情况下，都没有对人类与人工智能互动的细节进行研究，将其视为有效或无效的根源。

为了提供健壮、安全和可扩展的人-智编队，必须有可能从概率上定义何时、何地、为什么，以及如何让人类和机器作为队友一起高效地工作。如果对人类和机器团队成员各自的角色、优势和弱点没有足够的理解，就没有安全的途径来将AI作为一个有效的队友完全融入进来。此外，当今人工智能发展的不断增长的速度和不断扩大的范围意味着，与以往任何时候相比，强大的人-智编队更需要全面的建模和模拟工具包，这些工具包能够处理由人类和生成式人工智能系统组成的群体的复杂、经常出现的行为。

二、目标和技术内容

“人-智编队的探索性模型”项目将运用生成式人工智能技术，以创建人-智编队的建模仿真框架，能够提供足够自然数据，支持在现实环境中对人机编队的任务执行效能进行定量建模与评估。

“人-智编队的探索性模型”项目将运用专家反馈、人工智能组装知识库以及生成式人工智能技术，生成各类计算体（computational agents），代表不同模拟人类队友，类似数字孪生体。该项目将运用这些数字孪生体模拟人智互动，执行模拟作战任务的认知编队任务，对以下内容进行评估：

——相对基线水平的人机任务完成率。

——在明示或暗示模拟人类行为的情况下，人工智能行为的调整。

——各类拟人队友相对于真实人类特征的保真度。

——这种保真度对于人智编队达到现实模拟的贡献如何。

三、技术领域

“人-智编队的探索性模型”项目的技术领域为：开发方法，以最大限度提高代表人类和人工智能的数字孪生体在人智编队场景中的保真度。

此次方案要求是非保密的。方案要包括可行性研究和概念验证两个阶段。第一阶段9个月，第二阶段9个月，总周期不应超过18个月。第1阶段奖励60万美金，第二阶段奖励40万美金。