用于多UxV管理的人机协作中智能体的透明度研究

牛博  翻译

目标：在多机器人管理的人机协作环境中，我们研究了智能体透明度水平对操作员绩效、信任和工作负载的影响。

背景：参与者扮演了一个异构无人机（UxV）操作员的角色，并被指示通过计算机界面向UxV发出指令来完成各种任务。一个智能代理、智能体（IA）通过为每个任务推荐两个计划——最高建议和次要建议来协助参与者。

方法：在本实验中，采用了具有三个级别的智能体透明度的受试者内部设计。三个实验区各有八个任务，按透明度级别分组。在每个实验区，由于外部信息（例如指挥官的意图和情报），智能体IA的错误率是八分之三。收集了操作员的绩效、信任、工作负荷和可用性数据。

结果：结果表明，操作人员的绩效、信任和感知可用性随着透明度水平的增加而增加。主观和客观工作量数据表明，参与者的工作负荷并没有随着透明度的增加而增加。此外，作为透明度的函数，响应时间没有增加。

结论：以前的研究表明，增加透明度会以增加工作负荷和更长的响应时间为代价来提高性能和信任度，而我们的研究结果支持透明性在不增加额外成本的情况下提高性能效率的好处。

应用：目前的研究结果将有助于在军事环境下实施智能体（智能代理），并将为设计不同类型的UxV小组提供有用的数据。

关键词：智能体透明度、人机协作、多UxV管理

简介

异构无人机（UxV）团队的任务效率依赖于对不确定性的快速识别和管理，这些不确定性可能破坏团队安全完成复杂操作的能力。为了提高任务的效率，当今的许多操作者利用复杂的人机系统来监控无人系统，尽管这种交互可能会因信息流速率高而使操作者不堪重负（Chen、Barnes和HarperSciarini，2011；Paas和VanMerriënboer，1994）。特别是，未来的场景将需要一个人来监督多个无人系统，根据任务复杂程度，这可能很容易超过操作员的控制范围（Cummings&Mitchell，2008；Lewis，2013）。考虑到操作员工作过载的负面影响，智能体（IAs）已经开发出来，来减轻操作员的负担，同时提高人机协作整体绩效（Bradshaw等人，2008；Hardin&Goodrich，2009；Hwang等人，2008；参见Chen和Barnes，2014年的综述）。虽然IA有多种定义，但我们选择了与我们在本实验中提供给人类的IA最密切相关的定义。IA是指具有以下特征的实体：自主性、对环境的观察、对环境的行动，以及为实现某些目标而进行的活动（Russell&Norvig，2009）。

使用IAs的人类进行多机器人管理并非没有问题（Chen&Barnes，2014）。过去的研究表明，由于操作员难以理解IA的基本原理，操作员有时会对IA产生的输出的准确性和有效性提出质疑，从而导致IA的使用减少，并导致性能损失（Linegang等人，2006年）。研究人员建议，为了支持操作员在其任务环境中对IA的态势感知（SA），智能体需要对其推理过程和预测结果保持透明（Chen等人，2014；Lee&See，2004）。智能体透明性是IA以清晰有效的方式向人类操作员传达信息的能力，这使得操作者能够对系统及其行为建立一个精确的心智模型，从而对系统产生校准的信任（Chen et al.，2014；Lee&See，2004）。

增加智能体透明度对操作员工作量的影响，取决于所提供的信息量以及这些信息是否是操作员任务执行所需的信息（Lyons&Havig，2014）。如果实施得当，这些额外的界面元素可以通过帮助操作员了解智能体试图实现的目标以及操作员预期发生的事情来减少操作员的工作量，因此操作员不必亲自建立这些连接（Chen&Barnes，2014）。然而，更多的信息并不总是等同于相关和良好的信息。如果由向操作员显示的附加信息而引起信息处理的需求增加，增加了工作量，则显示器可能被视为可用性降低，并且受信任度降低。

Lee和See（2004）建议系统显示其目的、过程和性能（3Ps）以及各自的历史记录。为了避免让操作员不知所措，演示应采用简化形式，例如，集成的图形显示和简化的文本（Cook&Smallman，2008；Neyedli、Hollands和Jamieson，2011）。在本研究中，我们试图检查创建有效的“透明界面”所必需的信息水平，该界面不会引起操作员超负荷，特别是要解决三个问题：操作员绩效，操作员对IA的信任以及操作员的工作量。下一节将解释智能体透明性的概念以及我们的实验设计所基于的框架。

智能体透明度和态势感知

与高度自动化系统交互的人类面临着多重挑战：理解当前系统状态，理解其当前行为的原因，以及预测其未来行为（Sarter&Woods，1995）。因此，自动化系统的透明度已成为一个重要的研究领域（Lee&See，2004）。虽然有多种智能体透明度的定义（Chen等人，2014；Helldin，2014；Lyons&Havig，2014），但我们使用了Chen和同事（2014）提出的定义：“智能体透明度是指与界面的质量有关的能力，该界面可以使操作员理解智能体的意图，性能，未来计划和推理过程”（第2页）。透明度的目的不是将系统的所有功能、行为和决策依据传递给操作员。理想情况下，智能体应尽可能简洁地向操作员传递清晰有效的信息，从而使操作员能够在其任务环境中维持系统的适当态势感知而不会超负荷（Chen等人，2014；Lee&See，2004）。

为了确定必须提供给操作员以支持智能体透明度的基本信息，我们利用了基于态势感知的智能体透明度（SAT；Chen et al.，2014）模型。该模型以Endsley（1995）的SA模型为基础，描述了IA应该向人传递的信息，以使人类在其任务环境中具有适当的智能体SA。根据Endsley（1995）的说法，SA是动态环境中“个人的知识状态”（第36页）。在Endsley的模型中，态势感知有三个层次：感知（1级）、理解（2级）和预测（3级）。同样，SAT模型的第一级为操作员提供了有关IA当前状态、目标、意图和行动计划的基本信息；第二级为操作员提供了行动计划背后IA推理过程的信息，包括基本原理、能力、局限性，以及不同方案之间的权衡；第三个层次为操作员提供有关预测结果和计划成功或失败的可能性的信息（Chen等人，2014）。

SAT模型意味着，合并三个级别的透明度应支持操作员在其任务环境中对IA的态势感知，特别是IA的意图、推理、预测结果和不确定性。操作员对IA的意图、推理、预测结果和不确定性的态势感知应提高操作员的主观信任和信任校准，当IA正确时，这是适当的依赖，当IA不正确时这是正确的拒绝（Lee&See，2004）。在高风险的情况下，适当校准IA中的信任尤其重要，例如在军事行动中，过度信任和不信任可能是灾难性的（de Visser等人，2012；Freedy、Deviser、Weltman和Coeyman，2007；Groom&Nass，2007；Lee&See，2004；Parasuraman&Riley，1997）。尽管告知操作员IA不确定性似乎是提高信任校准的一种违反直觉的方法，但据报道，了解系统的局限性可提高决策过程中的信任校准和主观信任度（Dzindolet、Peterson、Pomranky、Pierce和Beck，2003；Lee&See，2004；Wang，Jamieson，&霍兰德，2009年）。

当前研究

我们模拟了一个异构的多UxV规划任务，参与者扮演一个操作员的角色，其工作是与智能规划智能体一起工作。目的是根据指挥官的意图、载具能力和环境限制，决定UxV应采取哪些行动，以确保任务成功。我们利用“绿野仙踪”（Riek，2012）技术，利用自适应协同/控制技术（IMPACT）系统模拟智能多UxV规划器的当前和未来能力，该系统目前是在美国国防部自主研究试点计划下开发的。IMPACT系统将“灵活的、以目标为导向的情景调用和人的自主交互与合作控制算法相结合，这些算法提供了近乎最优的任务分配和路径规划解决方案以及自适应/反应能力”（Draper，2013，第1页）。在这种情况下，“重头戏”是指协调多架UxV的脚本化计划，该计划由为特定任务选择适当资产的IA进行扩充（Douglass，2013；Miller&Parasuraman，2007）。

我们的目标是检查必要的信息水平，以创建一个有效和透明的界面，以支持人机协作管理多个UxV 。虽然存在不同类型的具有不同细节级别的智能体透明性，但我们重点关注的是，在其任务环境（基于SAT模型）中，支持操作员对智能体进行态势感知的透明性。我们假设，界面中更高级别的透明度应该促进有效的信任校准，而信任校准反过来又应该支持人机协作的整体绩效。当向界面添加额外信息时，工作负载是一个值得关注的问题，因为它可能会影响对系统的信任和感知的可用性。我们假设操作者的工作量会随着透明度水平的提高而减少，因为操作者不必对IA推荐计划和预测结果背后的推理进行推测。然而，我们也注意到，当向界面添加额外的信息时，增加的工作负载是一个有效的关注点，并且增加的工作负载可能会降低系统中感知的可用性（Bevan&Macleod，1994）。最后，先前的研究表明，个体差异因素，如操作员空间能力、注意力控制能力、视频游戏体验和工作记忆容量（Ahmed et al.，2014）可能会影响人机协作（见Chen&Barnes，2014，综述）。此外&#x