《数据治理与数据安全》读书笔记（下）

本系列文章是《数据治理与数据安全》此书的读书笔记和读书心得。共分为上下两篇。

一、大数据发展的另外一面：数据滥用和安全事件频发
1、算法的局限:存在的歧视问题
2018 年，IG夺冠之后。IG 战队老板随即在微博抽奖，随机抽取113位用户，给每人发放1万元现金作为奖励。获奖名单中女性获奖者数量是男性的112倍。然而， 所有参与用户的男女比率是1: 1.2，性别比并不存在悬殊差异。于是，不少网友开始质疑微博的抽奖算法，甚至有用户测试抽奖算法发现，设置获奖人数大于参与人数，发现依然有大量用户无法获奖。这些无法获奖的用户很有可能已经被抽奖算法判断为“机器人”，在未来的任何抽奖活动中都可能没有中奖机会。其实，这并非人们第一次质疑算法背后的公正性。近几年，众多科技公司的算法都被检测出带有歧视性：在谷歌搜索中，男性会比女性有更多的机会看到高薪招聘消息;微软公司的人工智能聊天机器人Tay出乎意料地被“教”成了一个集性别歧视、种族歧视等于一身的“不良少女”，这些事件都曾引发人们的广泛关注。即使算法设计者的本意是希望为用户推荐有用信息、对图片进行机器识别、使聊天机器人能够源源不断地学习人类对话的方式，但往往是在算法决策的‘‘黑匣子”面前，人们无法了解算法的决策过程，只能了解最终结果。除了造成不公平性，算法歧视还会不断剥削消费者的个人财富。《经济学家》杂志显示，2014年在排名前100的最受欢迎的网站中，超过1300家企业在追踪消费者。利用算法技术，企业利润获得大幅增加。但是，羊毛出在羊身上，这些利润实际均来自消费者。尤其是随着算法在自动驾驶、犯罪风险评估、疾病预测等领域中越来越广泛和深入的应用，算法歧视甚至会对个体生命构成潜在的威胁。
2、大数据杀熟
大数据杀熟就是针对特定用户进行个性化定价，以便让平台和商家利益最大化，说得直白点就是老客户看到的价格比新客户看到的价格要贵出许多。其最直接的方式是根据用户身份、浏览习惯、所用设备、消费历史等画像消息进行个性化定价。例如，视频平台的会员服务针对苹果和安卓设备来差异化定价；电商平台发现用户购买高端商品越多，就可能给用户定高价、少折扣。大数据杀熟本质上属于一种价格操纵行为。抛开大数据因素，价格操纵在线下实体销售中也时有发生。例如，一听可乐在普通超市卖2元，但在五星级酒店会卖到30元；美容店会不断给有钱的老顾客加载各种偏离实际价值的高价产品和服务，等等。一般而言，价格操纵的发生需要满足三个条件。一是掌握消费者的支付能力和意愿，一般住得起五星级酒店的客户是能够支付得起30元一听的可乐的。二是产品或服务具有垄断市场的能力。如果市场中卖可乐的厂商只有一家，那么客户想喝可乐就不得不接受可乐厂商的定价，此时可乐厂商也就具备了操纵价格的能力。三是产品或服务缺少可替代的选择。如果客户除了可乐还能选择雪碧、奶茶和啤酒等饮品，那么可乐厂商操纵价格的能力就会被削弱。大数据时代，这三个条件发展得更加成熟。首先，数据成本方面，得益于个人数据收集渠道的越发广泛和用户画像分析技术的不断发展，企业越来越容易判断用户的支付能力、意愿和喜好;其次，互联网行业的数据垄断和资本垄断等现象不断加重