【论文阅读-人机交互】A Better Way to Onboard AI Understand it as a tool to assist rather than replace people

Titile: A Better Way to Onboard AI: Understand it as a tool to assist rather than replace people

From: Harvard Business Review 2020

Link: https://hbr.org/2020/07/a-better-way-to-onboard-ai#

论文首发于：https://zhuanlan.zhihu.com/p/476007656

根据调查，人们认为AI是一种有价值的生产力工具，但是也担心AI会抢走他们的工作。一个公司的CEO指出，当公司明确表示，AI是用来帮助员工的，不是用来取代员工的，员工在管理生产力等许多方面都明显优于没有设定该目标的公司。

文章认为对待AI，就想培养新员工一样，要先在一些小项目、非关键项目上让新员工练手，同时，让人对新员工建立信任，逐渐再把关键项目分配给他。沿着这种思路，这篇文章给出了AI实施的4个阶段。

阶段一：助手

第一阶段就是培养一个助手，交给AI一些基本规则，分配一些基础但是耗时的任务给他，这样你就可以把精力集中到更重要的工作上。然后AI/助手通过观察你、执行任务、向你提问来学习。

人工智能助手的一项常见任务是对数据进行分类。比如从海量商品中找到推荐给客户的哪个；投资组合中过滤股票以满足预定义的投资标准，使任务更易于管理；NLP去处理和公司相关的新闻；帮助投资组合经理过滤有关公司事件、新闻发展和股票走势的大量信息。

人工智能可能提供帮助的另一种方式是预测人类可能会做什么，比如搜索引擎中的提示。人工智能去识别员工最有可能做出的选择，并在员工面临多项决策时建议该选择作为起点——加快决策的速度，而不是替人完成决策工作。

阶段二：监视者

下一阶段是设置人工智能系统以提供实时反馈。 借助机器学习程序，可以训练人工智能准确预测用户在特定情况下的决定（例如，过度自信或疲劳导致的理性缺失）。 如果用户即将做出与他或她的选择历史不一致的选择，系统可以标记差异。 这在大量决策过程中特别有用，因为人类员工可能会感到疲倦或分心。

人的主观性很强，在不同的环境/状态/情绪下可能对同一件事做出不一样的决策。法官在午餐前比午餐后更频繁地给予政治庇护；如果他们的 NFL 球队在前一天获胜，他们会给予较轻的监禁刑罚； 在被告的生日那天更容易从轻处理被告。 显然，如果人类决策者得到AI的帮助，当他们计划做出的决定与他们之前的决定或与纯法律变量分析预测的决定不一致时，AI会提示他们，这样更容易保证公平性。

另一个例子是，当 Marble Bar Asset Management 的投资组合经理 (PM) 考虑可能会增加整体投资组合风险的买入或卖出决策时（例如，通过增加对特定行业或地区的敞口），系统会通过弹出窗口提醒他们 一个计算机化的交易过程，以便他们可以适当地调整。 只要遵守公司风险限制，PM 可能会忽略此类反馈。 但无论如何，反馈有助于 PM 反思他的决定。

当然，AI也不总是正确的。当AI错误时，人类可以通过提供解释等方式来“教”AI，这样既提高了AI的实用性，而且保留了人类决策者的自主权。（虽然很多时候AI系统剥夺了人的这种自主权，所以说人在回路的方式还是很重要的，需要保留人反驳/修改机器结果的权利。）

阶段三：教练

用AI来评价/评估人的行为，对人的行为生成反馈。识别出人的行为偏好，并且像一个教练一个，提供个性化的反馈意见。

另外，在设计AI系统的时候，要让员工参与进来，提升员工的控制感。当AI作为教练的时候，它既像竞争者，又像合作伙伴。

阶段四：队友

在人工智能实施的最后阶段，公司将开发一个由人和机器组成的耦合网络，在其中双方都贡献专业知识。作者认为随着人工智能通过与个人用户的交互、分析甚至建模专家用户过去的决策和行为的数据来改进人工智能，一个专家社区（人类和机器）自然会出现。

人和机器最终阶段，就是人们像信任人类伙伴一样信任机器（但是人类之间建立信任就挺难的）。理解是建立信任的基础。员工对人工智能的恐惧通常是基于对人工智能的工作原理缺乏了解。在建立理解的时候，逃不开的就是可解释了。人工智能系统应该变得更加透明，从而促进信任。目前人类还在探索什么是对AI决策的良好解释。

总结

AI系统应该多关注透明度、决策自主权、隐私方面，让人类参与进来，达到彼此理解，相互信任，像队友一样合作。在上述的四个阶段中，人类决定了基本规则。通过负责任的设计，人工智能可能会成为工作场所的真正合作伙伴——以一致的方式快速处理大量不同的数据，以增强人类的直觉和创造力。

一些好的句子

• AI is very helpful during high-volume decision-making, when humans may be tired.

• AI brings tangible benefits in processing speed, accuracy, and consistency (machines don’t make mistakes because they’re tired), which is why many professionals now rely on it.