2017年AI领域的十大乌龙事件

翻译 2017年12月26日 14:34:59

原文:10AI Failures in 2017
来自:SYNCED
译者:夜风轻扬

译者注:2017年无疑是AI技术大放异彩之年,但是在这些令人瞩目新技术的风光后面,还有哪些不为人所知的失败呢?请见下文。

今年,人工智能(AI)程序 AlphaGo 和 Libratus分别战胜了人类围棋和扑克界的最优秀选手。尽管这些里程碑式的成就,显示了近年来人工智能的巨大进步,但是依然有很多人对这项新兴技术的成熟性存有疑问–尤其是今年人工智能界发生的许多糗事。

新技术在出现之初,经常会犯一些人类不会犯的错误,这里就列举一些人工智能界2017年出现的比较引人瞩目的乌龙事件。

一张面具攻克苹果人脸识别事件

image

利用人脸识别技术来解锁iPhone X,被视为目前最安全的AI解锁方法,苹果公司宣称该方法出现错误的几率是百万分之一。越南一家名叫BKAV的公司,使用一个利用3D打印生成的价值150美元的塑料面具,再通过化妆术就攻克了这项技术。BKAV首先扫描被测试人员的面部,然后利用3D打印机产生面部模型,再在该模型上粘上纸剪的眼睛和嘴巴以及一个硅胶捏的鼻子。这个事件在业界激起轩然大波,提高对于消费设备隐私,以及AI技术安全的重视。

亚马逊的Echo智能音响引发报警事件

广受欢迎的亚马逊 Echo 是功能强大的智能音响。但是万事没有绝对。一个德国人不在家的时候,他的 Echo莫名其妙的打开了,开始在三更半夜大声播放音乐,并且惊扰了四邻。不堪其扰的邻居报了警,警察只能破门而入关闭了音响。
image

Facebook聊天机器人关机事件

今年七月,有件事备受关注,两个Facebook聊天机器人因以旁人看不懂的语言进行交流而被关闭。随后有关超智能语言的流言四起,Facebook不得不出来解释说这些神秘字符不过是语法编码的疏忽造成的。

拉斯维加斯自动驾驶巴士首秀撞车

今年11月的拉斯维加斯,一辆自动驾驶大巴在一片喧闹声中开始了她的首秀–魔术师Penn & Teller也在排队等候乘车的名人中。然而仅仅两个小时后,大巴就和一脸货车相撞。尽管在技术上,大巴对这次交通事故没有责任-但是乘客还是抱怨大巴不够智能,不能在卡车慢速接近的时候及时避开。

Google 即时通信工具Allo表情符号事件

image
一名CNN员工在使用Google Allo时发现,收到带头巾人的表情符号后,会自动回复一把手枪的符合。Google尴尬地解释说这个问题已经修复,并且发表声明进行道歉。

汇丰银行(HSBC)语音身份鉴别应用双胞胎事件

汇丰银行语音身份鉴别应用是采用AI技术的安全系统,可以帮组用户通过语音命令来访问各自的账户信息。尽管该银行声称该应用和指纹身份鉴别系统一样安全可靠。一名BBC记者的孪生兄弟,通过模仿记者的声音,经过七次尝试,最终进入了记者的账户。汇丰银行随后立即修改这个错误,把失败尝试的次数设置为三。

Google AI识“枪”为“机”事件

MIT的一个研究小组,通过对一张步枪照片进行简单调整,就骗过了Google的云视觉API,让其误认为直升机。这种方法,又称为“不利样本”,通过对图像进行人眼难以察觉的修改,来诱导计算机进行错误分类。在过去,只有攻击者知道目标计算机内部机理的情况下,不利样本才会有效。而MIT小组在不了解系统信息的情况,略施小计就引发的误分类。

修改道路标识欺骗自动驾驶汽车事件

研究者发现通过采用涂抹或者粘贴对“停止”标志进行仔细修改,可以让自动驾驶汽车对这些标志进行误判。把停止标志里的词改为“love”或者“hate”,可以欺骗自动驾驶汽车的机器学习系统,让其误以为是“限速45”标志,并且屡试不爽。

AI颜色命名事件

机器学习研究者 Janelle Shan训练一个神经网络来产生新的绘画颜色,并给每个颜色起个名字。颜色看起来赏心悦目,但是它们的名字确实千奇百怪。即使经过很少的训练,该模型依然将天蓝色标记为“灰色阴”,将暗绿色标记为“灰褐色”。

亚马逊虚拟助手Alexa购物事件

亚马逊虚拟助手Alexa可以帮组在线购物。但是有时候是不是过于热情了?在1月,圣迭戈新闻频道CW6报道称,一个6岁的小女孩只是告诉Alexa她想要个玩具屋,随后就“被订购”了 一个,价值170美元!这还不够,当电视里的主持人重复小女孩的话,说“我喜欢小女孩说‘Alexa 给我定一个玩具屋’”,一些观众家的Alexa “闻声而动“,忙不迭地下单给户主订购玩具屋!

盘点2017年度AI领域大事件

转载自:THU数据派 2017年即将结束,这一年,人工智能领域被炒得火热,那么有哪些新的技术和进展?我们以百度提及量为热度指标,对2017人工智能大事件进行盘点,选出Top10十大,...
  • dzJx2EOtaA24Adr
  • dzJx2EOtaA24Adr
  • 2017年12月09日 00:00
  • 94

GitHub 年度报告,2017年最具价值的十大开源项目!

GitHub 每年都会在年度盛会中推出数据报告,其中列出了一些年度的数据,包括其网站中最受欢迎的编程语言、开源项目等。       那么今年哪些开源项目最具价值呢?       我们一起来看看被 Fo...
  • yxys01
  • yxys01
  • 2018年01月05日 09:49
  • 208

干货丨2017年AI与深度学习要点大全

2017已经正式离我们远去~ ~ ~博客WILDML的作者、曾在Google Brain做了一年Resident的Denny Britz,就把他眼中的2017年AI和深度学习的大事,进行了一番梳理汇总...
  • R1uNW1W
  • R1uNW1W
  • 2018年01月03日 00:00
  • 1273

企名片:2017年AI图谱大报告(附下载)

报告下载:添加199IT官方微信【i199it】,回复关键词【2017年AI图谱大报告】 ...
  • D1j4robv
  • D1j4robv
  • 2017年11月19日 00:00
  • 72

AI 工程师进阶路线

如何成为一名 机器学习算法工程师(张相於,转转推荐算法部负责人) 成为一名合格的开发工程师不是一件简单的事情,需要掌握从开发到调试到优化等一系列能力,这些能力中的每一项掌握起来都需要足够的...
  • u012017783
  • u012017783
  • 2017年12月18日 14:29
  • 119

Gartner最新发布:2017年十大战略技术趋势

据福布斯杂志报道,在美国奥兰多举行的Gartner研讨会上,市场研究机构Gartner Research的副总裁兼资深研究员大卫·卡利(David Cearley)介绍了该机构预测的2017年十大战略...
  • Gamay
  • Gamay
  • 2017年06月02日 13:39
  • 686

总结2017年AI之十大“败笔”

点击有惊喜 近些年来,人工智能项目AlphaGo和Libratus分别在围棋、扑克大赛战胜了人类,成为了里程碑事件。通过这些事件显示了近几年来人工智能取得了很大的发展,但是特别是在过...
  • yunqishequ1
  • yunqishequ1
  • 2017年12月29日 15:32
  • 168

2017年科技界十大新闻,你都知道吗?

2017年马上就要过去了,小编带你一起来盘点今年最具影响力的十大科技新闻…… 1、人工智能AI元年到来 2017年也叫做AI元年,虽然很早前就开始被提出被关注,但今年它才开始在很多行业落户...
  • DonetRen
  • DonetRen
  • 2017年12月23日 16:41
  • 292

Gartner公布2018十大技术发展趋势 2025年AI重塑商业模式

看点:Gartner公布2018十大技术发展趋势!看看接下来的几年你要怎么干。 智东西编辑 轩窗 导语:Gartner公...
  • e848lip6R
  • e848lip6R
  • 2017年10月30日 00:00
  • 356

最新十大web安全隐患-四年之后_OWASP发布新版本OWASP Top10 2017

OWASP Top10是什么?      OWASP项目最具权威的就是其”十大安全漏洞列表”。这个列表总结了Web应用程序最可能、最常见、最危险的十大漏洞,可以帮助IT公司和开发团队规范应用...
  • nicenelly
  • nicenelly
  • 2017年11月23日 14:06
  • 429
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:2017年AI领域的十大乌龙事件
举报原因:
原因补充:

(最多只允许输入30个字)