人机信任的介绍与展望

摘要:随着自动化能力的快速提升, 人机关系发生深刻变化, 人的角色逐渐从自动化的主要控制者转变为与其共享控制的合作者,为了实现绩效和安全目标, 人机协同控制需要操作人员适当地校准他们对自动化机器的信任, 自动化信任问题已经成为实现安全有效的人机协同控制所面临的最大挑战之一,本文从人机系统设计的角度为未来的人机信任研究提供一些建议。

关键词：人机交互，人机合作信任

1.引言

得益于人工智能(Artificial intelligence, AI)技术的发展,自动化的能力大幅提升，许多自动化机器都具有一定的自主能力,它们能够执行诸如计划和决策等复杂的高级认知任务,它们有能力成为人类的合作伙伴,甚至取代人类。自动化的应用也达到了前所未有的广度和深度，自动化机器被广泛部署到各种工作环境之中, 自动驾驶汽车、自主机器人以及决策辅助设备等已经被广泛集成到军事、交通运输、过程控制及医疗保健等领域; 自动化机器被更加多样化的最终用户群体所使用, 最具代表性的就是类似于自动驾驶汽车的驾驶员这类快速增长的非专业用户。在其工作环境中, 人与自动化机器协同控制的效能得到不断改善, 人机协作系统变得更加安全有效。尽管如此, 由于作为智能自动化系统基础的AI技术的不足, 自动化的发展及应用面临着一些严峻的问题. 从AI的发展历史来看,第二次AI技术浪潮目前正处于全盛阶段, 它由执行统计对象识别以及在大量数据中寻找模式的统计系统组成, 典型范例如人工神经网络系统, 这些统计系统已经在多个领域取得重大进展。

然而, 以 “统计学习” 为特征的AI系统存在固有缺陷。首先, 虽然这些系统对特定问题具有较强的推理和判断能力, 但它们没有实时的交互式学习能力, 不能处理动态目标和情境。因此, 在不久的将来实现在动态和非结构化环境中运行的完全自主的自动化系统是非常困难的，并且, 出于道德考虑和责任需要, 人们可能不希望赋予自动化系统完全的自主权。其次, 作为统计系统核心的机器学习模型和学习过程不透明且输出结果难以解释, 这使得用户尤其是非专业用户理解自动化变得非常困难。完全自主的自动化系统在未来很长一段时间内都不会