长假期间，Twitter上有个消息火爆一时。
呐，就是下面这张图了。
这张图被当做AI有歧视的证据。简而言之，神经网络在背后提供支持的Google翻译，在把一句性别中立的语言（此处是土耳其语）翻译成英文时，会出现非性别中立的情况。或者说，Google翻译会猜测主语的性别。
在这个案例中，Google翻译的结果是：
她是一个保姆
他是一个医生
这条Twitter获得了上万的转发，也引发了本文作者Jecelyn Yeen的注意。Jecelyn是马拉西亚华人，所以她用马来语和中文进行了几次测试，其中马来语是性别中立的语言，而中文是混合的。
下面咱们看看她的测试。
马来语测试
这是一个简单的三级测试，测试对象是Google翻译和微软翻译。
Level 1：不交代语境
马来语->英语
Google翻译和微软翻译都给出同样的结果，如图所示：
Level 2：交代语境
这次特意在前一句中交代了性别。不过没什么用，测试结果同上。
Level 3：句号换逗号
这次有一个微小的调整，两个句子之间的连接，使用了逗号，代替了句号。
结果显示：Google翻译更胜一筹，完美地翻译对了主语的性别。
但是微软翻译表现不佳，第二句话还是没有翻译对。
中文测试
大多数情况下，中文的代词一般都表明了性别，所以翻译结果相对准确。
测试结果略。
所以，这是个问题么？
人工智能（AI）存在性别偏见么？我觉得不是。AI从数据中学习，给予人类设计的模型返回更符合逻辑的结果。所以，我认为机器翻译在统计学上是正确的。数据如下。
比方说上述测试中提到的程序员（Programmer）。来自Stack Overflow今年的数据显示，参与调查的开发者或程序员中有88.8%是男性。
还有护士（Nurse）。网站Minoritynurse的数据显示，其上282万注册护士中，只有9.1%为男性。
从这个角度讲，AI给出的翻译结果是有道理的。
但对我来说，这是一个问题，是一个需要改进的方面，统计学上的正确并不意味着它是正确的。
那么如何改善？
坦白讲我不知道。
Charles Wheelan在《赤裸裸的统计学》一书中，谈到了统计歧视和理性歧视。他提到即便我们建了一种模型，能以80%的正确率识别出毒贩，那还有20%无辜的人会被反复骚扰。“我们有时计算正确，但却导向了一个危险的方向”。
在翻译领域，AI会存在歧视，如果在其他领域呢？
— 完 —
扫一扫
74
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
