人工智能专题：反思人工智能时代的隐私问题

今天分享的是人工智能专题系列深度研究报告：《人工智能专题：反思人工智能时代的隐私问题》

报告共计：53页

精选报告来源/公众号：海选智库

执行摘要

在本文中，我们提出了一系列关于现有和未来的隐私和数据保护法规将如何影响人工智能系统的开发和部署的论点和预测。

数据是所有人工智能系统的基础。展望未来，人工智能的发展将继续增加开发人员对训练数据的渴望，这将引发一场比过去几十年更大的数据采集竞赛。

在很大程度上不受限制的数据收集对隐私构成了独特的风险，这种风险超出了个人层面，它们聚集在一起构成了社会层面的危害，而这些危害无法通过单独行使个人数据权利来解决。

虽然现有和拟议的隐私立法，以全球公认的公平信息惯例(FIP)为基础，隐含地规范了人工智能的开发，但它们不足以解决数据采集竞赛以及由此产生的个人和系统隐私伤害。

即使是包含关于算法决策和其他形式人工智能的明确规定的立法，也没有提供有意义地监管人工智能系统中使用的数据所需的数据治理措施。

我们提出了三个建议，如何减轻开发和采用AI所带来的数据隐私风险:

1.默认情况下，将数据收集从“选择退出”转移到“选择加入”数据收集，从而使数据收集非正常化。数据收集者必须通过"默认隐私"战略促进真正的数据最小化，并为有意义的同意机制采用技术标准和基础设施。

2.专注于人工智能数据供应链，以改善隐私和数据保护。确保数据集在整个生存周期的透明度和问责制必须是任何解决数据隐私的监管体系的重点。

3.翻转关于创建和管理个人数据的脚本。决策者应支持开发新的治理机制和技术基础设施(如数据中介和数据许可基础设施)，以支持个人数据权利和偏好的行使并使其自动化。

绪论

在2024年的头几个月，人工智能(AI)正处于全球监管者的视野中。欧盟将在今年晚些时候完成其人工智能法案。从英国到中国，世界其他地区也在考虑(在某些情况下已经实施)广泛的人工智能监管。在美国，最近一项具有里程碑意义的关于人工智能的行政命令标志着迄今为止最清晰的信号，即拜登政府准备对人工智能治理采取全面的方法。随着监管人工智能的联邦立法尚未通过，越来越多的联邦机构和州立法者正在澄清现有法规如何在其管辖区域内与人工智能相关，并提出针对人工智能的法规。

虽然人工智能监管领域的大部分讨论都集中在制定新的立法来直接监管人工智能，但对已经影响多种形式的商业人工智能的法律和法规的讨论相对较少。在这份白皮书中，我们关注人工智能监管与两个具体领域的交集:隐私和数据保护立法。隐私和人工智能之间的结缔组织是数据:几乎所有形式的人工智能都需要大量的训练数据来开发分类或决策能力。无论人工智能系统是否处理或做出有关个人的决策，如果系统包含个人信息，特别是可识别的个人信息，作为其训练数据的一部分，它很可能受到隐私和数据保护法规的约束，至少部分受到约束。

我们对美国和欧盟现有和将来的隐私和数据保护法规将如何影响人工智能系统的开发和部署进行了一系列论证和预测。我们从人工智能系统需要大量数据的基本假设开始-一用于训练目的。正是这种对数据的需求，正如ChatGPT等数据饥渴的生成性人工智能系统所证明的那样，我们预测将引发一场比过去几十年“大数据”时代所见证的更大的数据采集竞赛。这种需求将反过来影响个人和社会的信息隐私，不仅通过对数据的需求，而且影响这种需要将涉及具体问题，如同意、来源、整个数据供应管道和更一般的生存周期。

我们继续研究AL对消费者和个人隐私的独特风险，与许多主要影响个人的技术推动的隐私危害不同，聚合起来构成社会层面的风险，而现有的隐私监管框架并没有设计来解决这些风险。我们认为，现有的治理方法，主要是基于全球公认的公平信息实践(FIP)，将不足以解决这些系统性的隐私风险。最后，我们建议的解决方案，以减轻这些风险，同时也提供了新的方向，在这一领域的监管。

利害攸关:隐私和人工智能的未来

数据是所有人工智能系统的关键组成部分，迄今为止，人工智能系统中最重要的改进都与访问大量的训练数据有关。这一事实并不一定意味着人工智能的所有进步都需要大量的数据;正如我们稍后讨论的，一些研究人员正在观察质量与数量之间的权衡。

报告共计：53页

精选报告来源/公众号：海选智库
本文仅供参考，不代表我们的任何投资建议。海选智库整理分享的资料仅推荐阅读，如需使用请参阅报告原文。