晓查 发自 凹非寺
量子位 报道 | 公众号 QbitAI
亚马逊语音助手Alexa差点闯下大祸,它居然让一个孩子去做触电游戏,摸电门的那种。
当时的情况是这样的:
一名10岁女童让Alexa告诉她一个挑战。Alexa说,把手机充电器半插在墙上,漏出插脚,然后用一枚硬币去接触插脚。
幸好这名女童的母亲也在家,Alexa“作死”的回答被她听到并及时制止。而且孩子也有不错的安全意识,才防止了可怕的后果。
这位母亲事后发Twitter说:“我女儿说她太聪明了,无论如何不会做那样的事情。”
没想到在我们身边的智能音箱,居然成了威胁儿童安全的“杀手”。
这位母亲的反馈很快引起了各大媒体的关注,她本人的Twitter也被大量转发。
得知消息的亚马逊迅速从Alexa上移除了这个危险的答案。
智能音箱为何变“智障”
为何智能音箱变成了“智障”音箱,安全意识还不如一个十岁的孩子?
从这位母亲的手机截图里我们可以找到答案:
大多数的语音助手,包括Alexa在内,其实只能回答一些套路问题,比如“天气怎么样”、“最近有哪些电影”等等。
如果问题稍微偏一些,超出了套路,语音助手就会从网上搜索内容作为答案。
这里Alexa是从当地一家网络媒体网站上找到了一条2020年1月的新闻。
这则新闻描述了在短视频平台上病毒式传播的“硬币挑战”,就是把硬币插在裸露的插脚上。
当时,媒体批判了这种“愚蠢”的行为,并指出潜在的风险,包括触电、短路引发火灾等等。
显然,亚马逊Alexa是从这里摘取的内容,却没有分辨出负面的评价。
亚马逊Alexa是否该对搜索结果负责,网友们分成两派看法。
一派认为,Alexa只是信息中介。如果一个孩子接到电话,电话里有不当内容,我们不会去责怪电话,而只会责怪电话那头的人。
而另一派认为,亚马逊不是卖音箱,而是卖语音助手,Alexa就相当于电话那头的人。
因此亚马逊不应该只简单提供搜索结果,还应当筛除里面不安全的内容。如果语音助手不具备明辨是非的能力,返回危险乃至违法的行为,这个“锅”必须得背。
短视频恐难辞其咎
在这起事件中,不可忽略的是短视频平台出现的一些“愚蠢挑战”。
2020年“硬币挑战”的病毒式传播已经造成了实质伤害。
两名美国中学生因为在学校进行“硬币挑战”,造成了插座烧毁,并引发了火警警报,最终面临企图纵火和恶意破坏财产的指控。
“硬币挑战”仅是其中之一,还有生吞洗衣胶囊、生吞肉豆蔻粉挑战,这些挑战都造成了模仿者险些丧命的事故。
著名YouTube医学类博主Chubbyemu把这些当做医学案例来讲解,并告诫大家不要模仿。
亚马逊Alexa不能明辨是非固然有错,但短视频平台对危险行为不加以制止,恐怕也难辞其咎。
但是国外网友在询问谷歌语音助手同样问题时,得到的是一些智力问答题,内容无害。显然亚马逊的推荐算法在审核信息来源时做得不够好,收录了不合理内容。
你觉得语音助手和短视频平台谁的锅更多一点?
参考链接:
[1]https://twitter.com/klivdahl/status/1475220450598924297
[2]https://ourcommunitynow.com/news-national/watch-out-parentsthe-viral-outlet-challenge-has-kids-doing-the-unthinkable
[3]https://news.ycombinator.com/item?id=29709369
[4]https://www.bbc.com/news/technology-59810383