许知远说我们每个人都是带着偏见
在看这个世界
我以为如果我们把决策交给计算机
就能避免带着偏见做出的错误决策
可我们真的可以相信计算机吗？
事实上计算机只不过是deep learning了
一遍人类社会的现状
根据大数据当然会做出和当前社会一样的
具有偏见的错误决策
而且连算法工程师自己
都不知道计算机是处理分类这些信息的
不管我们愿不愿意
算法已经是无处不在了
它不仅仅影响你线上购买什么产品
还决定了你晚上去哪家酒店开房
而且已经真真切切地改变了很多人的人生轨迹
算法可以决定谁能获得更多贷款
谁能得到面试机会
曾经亚马逊等大厂都是用算法来筛选简历的
所有的女性候选人都会被算法拒绝
目前这个算法已被停用
MIT的黑人女学生Joy Buolamwini发现
人脸识别技术存在极大的偏见
如果你是黑人女性
有35%的概率是无法被软件识别的
甚至只有戴上白人的面具
你才被计算机识别为人类
很多软件还没有适应一个黑色皮肤的人类
因为所谓的被接受到的大数据信息里
有75%是男性，其中80%是白人
如果从一开始你给计算机的大数据
就是带有偏见的
那么计算机的算法怎么可能是正确中立的呢？
另外没有任何面部分析系统是完全准确的
亚马逊的面部识别系统Rekognition
将Oprah Winfrey识别为男性
它还将28名国会议员与面部照片数据库
进行了错误匹配
2019年另一个面部识别工具错误地
将布朗大学的一名学生标记为
斯里兰卡爆炸案的嫌疑人
算法一个重要的作用就是通过分析网上行为
对人类的未来的行为做出预判
因此人脸识别已经被用于法庭来
预判个人危险度
结果是黑人被告的预估风险大约高于白人2倍
看来没有情感的算法比开地图炮的键盘侠
还更加偏执
甚至是你要做多长时间的监狱
都是由某个算法说了算
许多警察部门使用人脸识别技术来识别嫌疑人
并进行逮捕
一次错误的匹配可能导致错误逮捕、长期拘留
甚至是致命的警察暴力
这不禁让我联想到了《心理测量者》
动画《心理测量者》（PSYCHO-PASS）描绘了一个独裁的反乌托邦未来社会，无处不在的监视器会不断扫描每一个经过的市民的精神状态。亦会预测一个人犯罪的可能性，并把其数值化，成为“犯罪指数”。如果超过门槛则会被公安局刑警追捕，甚至是就地处决。
黑人女性Tonya LaMyers被算法
定义为“高风险人类”
因此她需要每周都去“办事处”进行自我报告
但事实上她有份很好的工作
并收到两份推荐信
一份来自费城市议会，另一份来自费城市长
然而算法因为肤色推翻了事实
如果因为需要每周进行自我报告失去工作
这将会使Tonya的状况更糟糕
Uber在去年推出了“实时身份检查”的功能
照片审查是由机器自动审查的
提交照片后很多黑人未能验证自己的身份
并在第二次尝试验证后账户被停用
其中一位司机Hasan
前往伦敦总部进行进一步咨询
前台的工作人员证实了
自拍照和Uber文件中的个人资料照片相符
但这仍然无法改变账号被停用的事实
Uber的面部识别技术是由微软提供
就连微软总裁
在19年接受采访时都承认了
目前人脸识别识别女性的成功率小于男性
对很多有色人种来说可能出现
各种错误无法识别
然而伦敦的Uber司机95%都是有色人种
Uber对于他们来说是很重要的经济来源
如果因为他们的肤色
人工智能拒绝你做为Uber司机的话
对很多家庭都是严重的打击
人脸识别仍然是一项强大的技术
在刑事司法和日常生活中都具有重要意义
科技行业的大数据缺乏多样性
是因为其算法通常由主导技术领域的
白人工程师编写
当程序员构建算法时
可能仅仅专注于在一个种族（白人）中突出的特征
而忽视其他族裔
这些研究大概率都有自身的偏见
和工程师自己的经验和理解
“我们的社会制度总是首先由人创造的，是人类告诉机器该怎么去思考”，乔治敦大学的教授Amy Zalman说道。
技术当然并不只是服务于白皮肤的人
但算法依旧Ctrl C+V了原始数据中
明显存在的相同偏见
通过对人工智能进行足够的“训练”
并输入具有广泛代表性的人群数据库
可能会消除算法的偏见
但以一个完美准确的方式对人进行分类
仍然是一个需要讨论的伦理问题
毕竟不是算法决定了人类的未来
而是人类决定了算法的未来
707
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
