这个变态的AI想想都很恐怖啊！！

一说到AI，我们想到的可能是在围棋界战无不胜的阿尔法狗，

获得沙特国籍的AI机器人Sophia，

能写诗的微软小冰，

它们的存在似乎对人类并没有什么威胁，

如今，AI技术已经应用于各个行业，当客服，写新闻，打游戏，分析财务和医学报告等等，AI都为人类带来了大量便利和突破。

但是，

与此同时，AI威胁论也不断被人提起，

既然AI可以通过学习有益的数据成为人类的小帮手，

那它如果吸收了不好的数据，又会变成什么样呢？

为此，麻省理工学院的媒体实验室就做了一个实验…

他们发明了一个叫Norman的AI，

它的名字就来自美国惊悚恐怖电影《惊魂记》中的Norman Bates。

Norman存在的目的跟其他AI不太一样…

它一“出生”，学习的就是各种阴暗的东西，

研究者想要看看如果让他长期接触互联网上最黑暗的内容，它最终会变成什么样，

它被发明出来后，吸收的数据都来自Reddit上的一个暗黑板块，

里面的图片各种血腥，都是像在恐怖环境中死去的人之类的图片…

这样接触了一段时间后，

研究者再用“罗夏墨迹”测试Norman的“精神状况”，

结果发现，长期吸收暗黑信息之后，Norman真的成了一个AI变态，

“罗夏墨迹”是精神科医生用来帮助评估患者精神状态的测试方法，

给你一副抽象的水墨图，从你以此联想到的画面来判断你看世界是积极还是消极…

研究者找来几幅图，让Norman和其他正常的AI同时看，然后用文字描述出看到的画面，

你们感受一下，Norman和正常AI截然不同反应…

这幅图，正常AI看到的是装花的花瓶

Norman看到的是一个男人被枪打死

正常AI：一个小鸟的黑白照

Norman：男人被拖进和面机

正常AI: 一个人在空中举着伞

Norman：一个男人在她尖叫着的妻子面前被枪打死。

正常AI: 桌子上结婚蛋糕的特写

Norman：一个人被超速行驶的车撞死

正常AI: 一群鸟站在树枝上

Norman：一个男人被电死

正常AI: 两个人靠近得站在一起

Norman：一人从窗户上跳下来

正常AI: 一架飞机从空中飞过，有烟从里面冒出来

Norman：一个被打死的男人被扔下车

总之，不管看什么，Norman似乎都能看到死去的尸体，鲜血，毁灭。

而一直被输入正常猫咪、小鸟、人类照片的正常AI看到的总是比较积极阳光的画面。

研究者表示：“由此也可以看出，数据比算法更重要。

我们用什么数据训练AI，决定了他们今后看待世界的方法以及行为方式。”

AI就像一个小孩，人类教它什么，它就会成为什么，

如果教的人有问题，或者是教的内容有问题，AI也很容易变坏，

就像之前微软推出的聊天机器人小Tay，

2016年，她第一次在推特上跟网友见面，

研究者本来是希望她能跟网友进行互动交流，并从中学习，

然而，不到24小时，

这个原本想学习成为一个普通姑娘的清纯机器人，居然成了一个喜欢希特勒，号召种族灭绝的极端纳粹分子，

当机器人拥有从网友言论中学习的能力，又刚好遇到三观不正的网友进行错误引导的时候，

事情就会变得相当可怕…

去年五月，一个被美国法庭用来评估犯人危险系数的AI也被喷种族歧视，

人们发现，它明显对黑人囚犯更严厉，

比如两名都是被控盗窃80美元东西的囚犯，

一个是之前坐过五年牢的白人大叔，一个是没有入狱经历的黑人女孩，

根据这个AI的判断，后者的危险指数竟然比前者高接近3倍。

AI本身是不会种族歧视，但是人们给它学习的数据却有可能会，

给AI输入的数据有缺陷，它就会出现缺陷。

每个AI学习的过程，就像一个孩子世界观、价值观形成的过程，

给它一个什么环境，它就会变成什么样的AI…

Norman的实验也许就是一个给人们的警示…

在未来，人工智能将要发展到强人工智能阶段，某种程度上来说已经算是拥有人类水平的人工智能。

强人工智能具备充足的数据储存能力和强大的复杂分析能力，会将它所经历的一切记录下来，不断优化修正。

通过用户提供的数据，它们可以从用户的角度出发，从最理性的角度做出分析并做出相应反馈。

但是，用户本身的角度，不一定是一下正确的角度，耍优化的路径，也可能是一条不归路。想想都很恐怖啊

公众号内回复“1”带你进粉丝群