全文共1652字,预计学习时长5分钟
图源:Getty Images
Timnit Gebru是谷歌伦理学和计算机视觉领域最杰出的研究人员之一,她说自己在向公司内部资源团队“谷歌大脑女性成员和联盟”(Google Brain Women and Allies)发送电子邮件后被解雇。
这封邮件暗指谷歌在未告知Gebru的情况下审查了她的一篇研究论文,同时也暗示了公司会恶劣对待那些为少数群体发声的人。这封邮件全文已在Platformer上发布。(https://www.platformer.news/p/the-withering-email-that-got-an-ethical)
在发送电子邮件后,Gebru与管理人员进行了交流,她私下说,如果不能满足某些保密条款,她将辞职。然而,Gebru说她立刻就被解雇了。
著名伦理学家Timnit Gebru经过紧张的邮件交流后离开了谷歌公司。Gebru对人脸识别偏见性的研究颇具影响力,并因其而闻名。Gebru对该领域的贡献在于,她使现代人理解人工智能的失败之处,以及算法差别对待少数群体的技术基础。
联合创始人Rachel Thomas发布的一条推特中阐述了Gebru多年学术成就对人工智能研究的影响,包括她与人合著了一部开创性的著作,表明面部识别系统对于有色女性的识别远不如白人男性精准。
Gebru协助领导谷歌人工智能的伦理团队,他们共同创立了一个名为Black in A.I. 的国际组织,致力于支持黑人人工智能研究人员,以及拓宽传统专有领域的准入。
图源:unsplash
这封邮件部分内容是:
想象一下:你已经给30多位研究人员发了一篇论文寻求反馈,并且在等待公共关系和政策部门的回复,你甚至在写文章之前就已经提醒过他们“我们考虑要这么做”,你还写了一份修改计划,用于解决人们的不同反馈。
但除了被告知更新信息外,(长达2个月内)没有接到公共关系和政策部门的任何反馈。而在你休假的前一周,突然看到日历上(大约下午2点)弹出了下午4:30的会议通知。没有任何人事先告知你会议的内容。
而后就在这次会议上,你上司的上司告诉你“决定已经出来了”,你需要在下周,也就是11月27日之前撤回这篇论文,而这周几乎所有人都会外出(这个日期与会议进程也无关)。
你不值得公司就此为你展开一场谈话,因为在这个公司,你不是一个被认可,被认为有价值的人(更不用说那些被记者、政府、科学家、社会组织,如电子前沿基金会等认可的专业知识能在这个公司得到认可或重视)。
接着,你希望获得更多的信息。有哪些具体的反馈?是谁提出的?为什么是现在给?为什么之前没有通知?你能和其中一个人交流一下吗?你能了解一下文章的具体问题,以及可修改之处吗?
一段时间过后,你被告知,你的上司可以给你看一份特权机密文件,而对此你甚至无权知道,这份文件是谁写的,谁给的反馈,遵循怎样的流程或其他内容。你写了一份详细的文件,探讨你能找到的任何反馈,向反馈者提问并且澄清一些问题,但这份文件完全被忽略了。你又一次被勒令撤回论文,没有经过任何交谈。
然后你试着和别人交流,告诉他们这是不能接受的,可非但没有反思,恰恰相反——他们开始试图寻找替罪羊。
像这样压制边缘化的声音与我们讨论过的NAUWU原则背道而驰。而在“负责任的人工智能”的背景下这样做,无异于在伤口上撒太多的盐。
推荐阅读专题
留言点赞发个朋友圈
我们一起分享AI学习与发展的干货
编译组:陈睿欣、周婷
相关链接:
https://onezero.medium.com/read-the-email-that-led-to-the-exit-of-google-a-i-ethicist-timnit-gebru-45a4775c14ca
如转载,请后台留言,遵守转载规范
推荐文章阅读
长按识别二维码可添加关注
读芯君爱你