人们识别图像是靠形状,那AI是怎么识别图像的?
德国研究团队给出一个原因,这个原因出乎意料:人类会关注图中对象的形状,深度学习计算机系统所用的算法不一样,它会研究对象的纹理。首先人类向算法展示大量图片,有的图片有猫,有的没有。
算法从图片中找到“特定模式”,然后用模式来做出判断,看看面对之前从未见过的图片应该贴怎样的标签。神经网络架构是根据人类视觉系统开发的,网络各层连接在一起,从图片中提取抽象特点。
神经网络系统通过一系列联系得出正确答案,不过整个处理过程十分神秘,人类往往只能在事实形成之后再解释这个神秘的过程。研究人员修改图片,欺骗神经网络,看看会发生什么事。
研究人员发现,即使只是小小的修改,系统也会给出完全错误的答案,当修改幅度很大时,系统甚至无法给图片贴标签。还有一些研究人员追溯网络,查看单个神经元会对图像做出怎样的反应,理解系统学到了什么。
德国图宾根大学科学家Geirhos领导的团队采用独特方法进行研究。
去年,团队发表报告称,他们用特殊噪点干扰图像,给图像降级,然后用图像训练神经网络,研究发现,如果将新图像交给系统处理,这些图像被人扭曲过(相同的扭曲),在识别扭曲图像时,系统的表现比人好。
不过如果图像扭曲的方式稍有不同,神经网络就无能为力了,即使在人眼看来图像的扭曲方式并无不同,算法也会犯