2021-05-19

人工智能既不是人工，也不智能的？

——在南加州大学和微软同时任职的Kate Crawford在她的新书中写道，即使是从事这项技术的专家也误解了人工智能。

科技公司喜欢把人工智能描绘成一个精确而有力的工具。Kate Crawford称，神话是有缺陷的。在她的《人工智能图集》（Atlas of AI）中，她参观了一个锂矿、亚马逊仓库和一个19世纪的短语头骨档案，以说明自然资源、人类汗水和支持某些版本技术的不良科学。

“人工智能的许多应用和副作用急需监管。”

Kate Crawford最近与有线资深作家汤姆·西蒙尼讨论了这些问题。下面是编辑过的成绩单。

连线：很少有人了解人工智能的所有技术细节。你认为，一些从事这项技术的专家对人工智能的误解更为深刻。

Kate Crawford：它被呈现为一种空灵而客观的决策方式，我们可以把这些东西融入到教学孩子到决定谁得到保释的一切。但这个名字是欺骗的：AI既不是人工的，也不是智能的。

人工智能是由大量的自然资源、燃料和人力组成的。而且它在任何人类智慧方面都不聪明。如果没有广泛的人类训练，它是无法辨别事物的，对于意义是如何产生的，它有着完全不同的统计逻辑。自从1956年人工智能诞生以来，我们就犯了一个可怕的错误，这是这个领域的原罪，认为大脑就像计算机，反之亦然。我们假设这些东西与人类的智力相似，没有什么比这更离谱了。

你通过展示人工智能是如何构造的来接受这个神话。就像许多工业过程一样，结果是杂乱无章的。有些机器学习系统是用匆忙收集的数据建立起来的，这会导致像人脸识别服务这样的问题，在少数民族中更容易出错。

我们需要研究人工智能从头到脚的生产。数据问题的种子是在20世纪80年代播下的，当时使用数据集时，人们通常不知道其中的内容，也不关心隐私。数据集只是“原”材料，在数千个项目中重复使用。

这演变成了一种大规模数据提取的思想，但数据并不是一种惰性物质，它总是带来一种背景和政治。Reddit中的句子将与儿童读物中的不同。来自照片数据库的图像与奥斯卡的图像有着不同的历史，但它们的使用方式都是一样的。这会给下游带来一系列问题。到2021年，还没有一个行业标准来说明培训集中保存了什么样的数据、数据是如何获得的，或者潜在的道德问题。

你将情感识别软件的起源追溯到20世纪60年代由国防部资助的可疑科学。最近对1000多篇研究论文的回顾发现，没有证据表明一个人的情绪可以从他的脸上可靠地推断出来。

情感检测代表了一种幻想，即技术最终会回答我们对人性的问题，而这些问题根本不是技术问题。这个在心理学领域备受争议的观点促使人们跳入机器学习，因为它是一个简单的理论，适合工具。如果你放弃文化和背景，记录人们的面孔并将其与简单的、预先定义的情绪状态相关联，那么机器学习就会奏效，而且你可能一天要改变数百次你的表情和感觉。

这也变成了一个反馈循环：因为我们有情感检测工具，人们说我们想把它应用到学校和法庭，并抓住潜在的小偷。最近，一些公司利用这种流行病作为借口，对学校里的孩子进行情绪识别。这让我们回到了过去的颅相学，这种信念认为你可以从脸和头骨的形状中发现性格和个性。

你对最近人工智能如何产生不良影响的研究做出了贡献。但该领域却与科技行业的人员和资金纠缠在一起，科技行业寻求从人工智能中获利。谷歌最近解雇了两位受人尊敬的人工智能伦理研究人员，Timnit Gebru和Margaret Mitchell。行业参与是否限制了质疑人工智能的研究？

我不知道谷歌内部发生了什么，但我所看到的令人难以置信的麻烦。重要的是，我们要让技术公司内部的研究人员了解这些系统是如何工作的，并发布相关信息。

我们看到的研究过于狭隘地集中在技术修正和狭隘的数学方法上，而不是对这些系统如何与刑事司法、教育和医疗等复杂和高风险的社会机构相结合的更广泛的视角。我很乐意看到研究更少地关注道德问题，而更多地关注权力问题。这些系统正被那些已经代表了世界上最特权的强大利益集团所使用。

人工智能还有用吗？

让我们明确一点：统计预测是非常有用的；Excel电子表格也是如此。但它有自己的逻辑，自己的政治，自己的意识形态，人们很少意识到。

我们所依赖的系统没有你所期望的那种在日常生活中如此有影响力的安全围栏。我们有一个紧急监管：有些工具实际上造成了完全不受监管的伤害。

你认为这种情况很快就会改变吗？

我们越来越近了。我们在白宫科技政策办公室有Alondra Nelson ，她写过这样一篇文章：你无法逃避科技的政治。我们开始看到一个由活动家和研究人员组成的新联盟，看到资本主义和计算的相互关系是气候正义、劳工权利和种族正义的核心。

我很乐观。

数据库需求可联系contact@surfingtech.cn