联合国首席AI顾问专访：我们期望AI应该是完美的，但这永远不会

大数据文摘出品

来源：informationweek

编译：张大笔茹

联合国首席人工智能顾问Neil Sahota分享其对联合国重大AI项目以及当今AI面临的主要挑战的看法。

人工智能在各个行业和政府中广泛使用的例子一度存在于科幻小说中。但如今，我们不必担心像许多电影里一样被机器人奴才推翻的情况发生。

反之，有更大的问题影响着我们今天的生活。例如，为了更大的利益，我们应如何以及何时共享数据，何时应将其保留用于专有用途?面部识别等特定的人工智能应用是否合乎道德?如何确认人工智能的结果是可以信任的?如何知道人工智能何时出现偏见，以及如何解决?

由于目前的美国政府政党轮替的情况，这些问题就成为头等大事。政府和企业中正在进行许多项目，他们将在未来几年内受到这些问题的影响。

为了深入了解AI的重大问题，InformationWeek与采访了Neil Sahota——联合国首席人工智能顾问，与联合国合作举办AI for Good全球峰会，也是《拥抱AI革命》一书的作者。

以下为该对话的一些摘录。

目前正在使用AI技术中，最有趣的地方是什么?

实际上是一个被称为“人工同理心”的领域。虽然机器不会感觉到情绪，但我们已经能够教他们如何在人中识别情绪。肢体语言的使用，语音的语气，甚至单词的选择或手势都是可以帮助机器学习实时解读人的情绪状态的数据点。

人们非常关注其为人们提供心理健康问题的帮助。英国有一个名为“彩虹计划”的组织，为家庭暴力的受害者提供了帮助(即使用聊天机器人帮助人们识别他们是否是虐待的受害者)。

实际上它并不能代替人际关系，而是一个安全的空间，使人们无论何时无论都可以始终参与其中。

这是领先优势。有许多工作正在完成-可能有25种解决方案可供人们当前使用。从事这些项目的人员需要了解心理学和语言学，但治疗师们还并未追求AI，因此这是一个新兴的空间。但是，人们正在尝试使用一些基本工具。

另一方面，我认为这项技术被搁置的原因是，许多人认为这是不可能的:机器无法理解一个人的情绪。

实际上现在我们已经看到了，不再是这种情况了。我认为这将创造更多的可能。

Neil Sahota

机器是如何被训练的?

它是心理学的组合：不同的情绪状态以及与之相关的某些事物，以及运动机能学，肢体语言，语言学和实际中的语言编码能力的教学。因此，即使是对我们来说似乎微妙的事情，例如使用“伙伴”一词而不是“朋友”，实际上也传达了很多含义。

什么样的训练数据用于向机器传授人类情感?是危机中心电话记录还是客户服务电话记录?

可能是那些东西，但是实际上我们发现社交媒体中数据的就非常好。

人们可以使用为大学或工作面试而写的论文，但实际上他们可能并没有使用真实声音。我们可以得到的现实世界，真实声音类型越多越好。社交媒体是一个很好的来源。

是否有开源数据库可用?

没有很多，数据本身就是一个挑战。数据是当代新能源，人们显然不愿意分享，至少没有货币化之前，这显然已成为障碍。有一些数据确实我们不应该共享。但是，即使每个人都无法使用数据，每个人都不愿意泄露数据，这会造成其他困难，尤其是在医疗保健领域。

我们没有足够的数据来做一些我们想做的事情，以推进医学研究。

医学研究面临哪些挑战?他们是如何克服这些挑战的?

遗憾的是，机器本身并不了解事物，我们需要数据来训练，如果想让它报告可能的发现或疾病，则意味着必须拥有大量数据。

特别是对于肺部，需要健康肺部、第一阶段癌症、第二阶段癌症、肺气肿等的肺部X射线检查结，需要大量的这些数据集。

像克利夫兰诊所或梅奥诊所这样的许多地方可能没有足够的数据来实际执行此操作，他们要么通过治疗越来越多的患者来获取数据，要么就获取其他合作机构的许可，例如可能拥有研究中心的大学和研究中心。

联合国正尝试建立一个去掉PHI(个人健康信息)的医疗保健数据库，可以创建大量数据供研究人员实际使用。

那是你在联合国从事的项目之一吗?

是的!基本上，每个人都同意将其数据存储在此处以供一般使用，但去掉了标识信息。它为每个人提供了更大的数据集。

在这个项目的工作中，基本上是您去到一些医疗机构宣传：嘿，如果我们可以共享这些数据不是很好吗?这难道没有价值吗?

我很愿意，大力提倡!因为我们有意因不共享而放慢自己的速度。我们已经看到一些实例，其中一个公司正在着手另一公司在七年前尝试过的研究道路，结果却陷入了僵局。结果是浪费了人们的时间，精力和金钱。

肺癌是一个发展领域么?

他们实际上已经是肺癌的解决方案。斯隆·凯特琳(Sloan Kettering)有一个，正在用它来检测X射线中的肺癌。该系统现在的准确率约为90%，但机器能做的只是诊断癌症，无法诊断其他任何东西。

Sloan Kettering会将其授权给其他机构应用吗?

现在吗?不会的。他们自己使用，因为这是他们的核心优势。我们不习惯竞争，不习惯社会企业。你可以选择赚钱，也可以做为非营利组织。也可以两者都做!

在联合国工作中，告诉一些挑战，在您向一些组织机构宣传：“嘿，让我们分享你的数据好吗?这是很好的一件事。”

即使他们不知道如何使用数据或不会使用他们的数据，也不希望其他人从拥有的财产中致富。我们现在真的不知道如何评估数据的价值。

有些人会有更开放的想法或前瞻性的思维，我不确定这里用的是正确的短语，但认识到实际上共享其中一些内容的公司为每个人增加了机会。涨潮抬起了所有的船。再次重申，这是与传统上大多数组织习惯不同的思维方式。

AI在当今世界面临着哪些重大挑战?

确实有两个核心要素。一个是道德问题，需要一个负责任的AI体系，仅仅因为可以做某事并不意味着我们应该做。另一个大问题就是对技术的真理和信任，我们期望AI应该是完美的，但这永远不会。

我们会犯错，训练中会有缺陷，因为人们有内在的偏见。

这确实是我们现在面临的两个重大挑战。

相关报道：

https://www.informationweek.com/big-data/ai-machine-learning/how-ai-can-save-the-world-or-not/d/d-id/1340217?