人工智能缺陷与误觉：让机器产生幻觉的「怪异事件」

简评：如果人工智能犯了错怎么办？

乘客看到了停车标志，突然感到一阵恐慌，因为他搭乘的自动驾驶汽车反而开始加速。

当他看到前面的铁轨上一列火车向他们疾驰而来时，他张开嘴对前面的司机大声喊叫，但他突然意识到汽车前坐并没有司机。列车高速撞上来，压碎了这辆自动驾驶汽车，乘客当场死亡。

这个场景是虚构的，但是凸显了当前人工智能中一个非常真实的缺陷。

在过去的几年里，已经有越来越多的例子表明 —— 机器可以被误导，看见或听见根本不存在的东西。如果出现「噪音」会干扰到人工智能的识别系统，就可能产生误觉。比如上面的场景，尽管停车标志在人眼中清晰可见，但机器却未能识别出来。

「停止」标志上一些简单的贴纸就足以使机器视觉算法看不见这个告示，而在人类的眼中依然显而易见

计算机科学家称之为「对抗性例子」(adversarial examples)。

MIT 的计算机科学家阿塔利（Anish Athalye）表示：

我们可以把这些东西看作是人工智能网络会以某种方式处理的输入信息，但机器在看到这些输入信息后会做出一些意想不到的反应。

▎看物体

到目前为止，人们主要关注的是视觉识别系统。

阿塔利已经证明࿰