为了不把黑人兄弟认作大猩猩,谷歌的算法连真的大猩猩都不认识了

李林 编译整理
量子位 出品 | 公众号 QbitAI

2015年,黑人兄弟Jacky Alciné震惊地发现,他们被Google图像识别算法歧视了:Google Photos竟然把他的黑人朋友分类成了“大猩猩”!

Google立刻同表震惊,并迅速道歉承诺整改。

到现在,两年半过去了,Google整改效果如何呢?《连线》杂志说,并没有真的改正错误,只是……为图像识别算法去掉了“大猩猩gorilla”这个类别

很好,再也没有黑人兄弟姐妹会被认成大猩猩了。不过,大猩猩也不会被认作大猩猩了。Google Photos的图像识别算法,根本就不知道有大猩猩这个物种存在。

《连线》对Google Photos做了一系列实验,收集了4万张动物图片让它识别。他们发现,Google的算法可以认出不少灵长类动物,比如狒狒、长臂猿、狨猴、红毛猩猩都没问题,但是却认不出大猩猩和黑猩猩。

这些大猩猩、黑猩猩的照片,有的被认作“树林”、“丛林”,有的被打上了“动物园”的标签。

另外,Google Photos也认不出“black man/woman/person”。

Google承认,在2015年的识别错误发生之后,从图片识别的标签中删掉了“大猩猩”,现在“黑猩猩”和“猴子”也被屏蔽了。Google在发给《连线》的邮件中解释说:“图片标签技术仍处于早期,很不幸,它离完美还差得远。”

不过,这种限制仅用于Google Photos,而Cloud Vision API、Google Assistant等其他应用没有受到影响。

作为一家站在AI前沿的公司,Google两年多还没真正解决的这个问题,似乎很奇怪,但也折射出了机器学习技术的一个问题:即使是最好的算法,也不具备常识,不理解抽象概念,结果就是,机器学习工程师将自己的算法用在现实世界中之时,必须考虑训练数据中遇不到的极端情况。

加入社群

量子位AI社群13群开始招募啦,欢迎对AI感兴趣的同学,加小助手微信qbitbot5入群;


此外,量子位专业细分群(自动驾驶、CV、NLP、机器学习等)正在招募,面向正在从事相关领域的工程师及研究人员。


进群请加小助手微信号qbitbot5,并务必备注相应群的关键词~通过审核后我们将邀请进群。(专业群审核较严,敬请谅解)

诚挚招聘

量子位正在招募编辑/记者,工作地点在北京中关村。期待有才气、有热情的同学加入我们!相关细节,请在量子位公众号(QbitAI)对话界面,回复“招聘”两个字。

量子位 QbitAI · 头条号签约作者

վ'ᴗ' ի 追踪AI技术和产品新动态


评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值