人工智能时代的数据隐私、垄断与公平

人工智能时代的数据隐私、垄断与公平

孟小峰, 王雷霞, 刘俊旭

中国人民大学信息学院，北京 100872

摘要：随着人工智能时代的到来，大数据中蕴含的价值被不断开发，但与此同时，用户的隐私泄露问题、数据垄断问题以及算法决策中的公平问题愈发凸显。为详细探究此类伦理问题，首先从数据发展的角度出发，探讨人工智能时代隐私、垄断与公平问题的产生环境及其独特性。而后，对这3个伦理问题逐一分析其现状及挑战，得出当前伦理问题产生的本质是数据获取、使用以及决策的不透明性，提出建立数据透明机制是解决这些问题的重要举措。

关键词： 大数据 ; 数据伦理 ; 人工智能 ; 数据隐私 ; 数据垄断 ; 决策公平 ; 数据透明

论文引用格式：

孟小峰, 王雷霞, 刘俊旭.人工智能时代的数据隐私、垄断与公平.  大数据[J], 2020, 6(1）：35-46

MENG X F, WANG L X, LIU J X.SData privacy,monopoly and fairness for AI. Big Data Research[J], 2020, 6(1):35-46

1 引言

随着人工智能技术的快速发展及其在金融、交通、商业、医疗等领域的广泛应用，大数据中蕴含的价值不断被开发，产生了巨大的经济效益和社会效益。大数据逐渐改变着人们的生活生产方式。但与此同时，人们对大数据决策产生深度依赖，对自身数据失去掌控权，数据生态中的伦理问题愈演愈烈，用户数据的滥用问题、隐私泄露问题、数据垄断问题、决策公平问题层出不穷。2018年3月曝出的“Facebook剑桥分析事件”在未经用户授权的情况下收集用户信息，并企图影响2016年的美国总统大选，造成了用户数据滥用和隐私泄露。2017年11月，美国国防部由于服务器配置错误，意外暴露了18亿条用户社交数据，该事件揭露了用户隐私数据被收集和泄露的现状。2017年的顺丰与菜鸟关于丰巢数据之争、华为与腾讯关于微信数据之争均为“数据垄断”背景下的用户数据争夺现象。2015年，Google公司的人脸识别将黑人识别为大猩猩，造成“种族歧视”，暴露出了机器学习中的不公平问题。这些接踵而至的伦理问题，一方面使用户遭受了隐私威胁与非公平对待，另一方面引爆了用户与企业间的信任危机，致使自动驾驶、医疗健康预测等敏感领域的技术难以落地，从而限制了人工智能技术的发展。

愈演愈烈的数据伦理问题正在引起社会各界的广泛关注。学术界有关数据隐私、数据垄断、决策公平问题的学术争鸣不断涌现。工业界中，Google公司CEO桑达尔皮查伊在2019年6月17日接受美国有线电视新闻网专访时曾表明，首席道德官（chief ethics officer）应为CEO（chief executive officer）的另一含义，其对数据伦理等问题的关注程度可见一斑。2019年5月28日，中国国家互联网信息办公室发布《数据安全管理办法（征求意见稿）》，讨论当前隐私数据收集、处理及使用的办法。

从用户的角度考虑，人们作为数据的拥有者、大数据技术的使用者，在面对上述问题时，是否只能束手无策？还是选择将数据牢牢攥在手中，拒绝人工智能等技术的应用？事实上，挖掘数据价值与尊崇人类伦理并不是对立的问题，它们同时存在于人工智能时代的数据生态中，相互影响，相互制约，并将最终达到动态平衡的状态。

当前数据生态中的伦理问题根据其本质，可分为两类问题，分别是数据伦理问题和算法伦理问题。数据伦理问题是指在数据收集使用过程中产生的伦理问题，主要表现在隐私问题和垄断问题；算法伦理问题是指在算法决策过程中产生的伦理问题，主要表现在公平问题。因而，本文主要针对隐私、垄断和公平这3个代表性问题展开讨论，探讨当前伦理问题的本质。本文首先从数据发展的角度出发，探索这3个问题产生的特有数据环境，分析其独特性及不同问题之间的关联。之后，本文对这3个问题进一步详细探讨，分析其现状与挑战，并提出当前这些伦理问题产生的本质是数据获取、使用以及决策的不透明性，构建数据透明体系是解决当前隐私、垄断与公平问题的根本途径。

与此同时，本文提出当前的伦理问题应是一个“大隐私观”的问题。未来数据的发展带来的隐私问题不是现在关注的“小隐私”问题，即不能仅通过扰动、匿名、差分等技术实现保护，它是在数据收集使用场景下保证数据正确应用、算法正确决策的问题，涉及隐私、垄断、公平等伦理问题。相比狭义隐私问题，“大隐私”问题涵盖内容更广，战线更长，需要研究者们跳出当前的思维定式，探索其本质与解决方案。

2 从数据发展看伦理问题

在数据发展的过程中，数据的产生方式及特征不断发生变化，对科学技术及社会产生了不同影响，进而发展出不同的伦理问题，而当下表现突出的是隐私问题、垄断问题与公平问题。从数据发展的主线上看ÿ