Oasis Labs 与 Meta 达成合作，构建隐私计算平台促进AI模型公平性评估

导读

7月28日，Oasis Labs宣布与 Meta建立合作伙伴关系，并推出隐私计算平台来评估 Meta 旗下产品的公平性，同时保护用户隐私。作为 Meta 的技术合作伙伴，Oasis Labs 构建了一个基于安全多方计算(Secure Multi-Party Computation，SMPC) 技术保护数据隐私的平台。该项目将推进AI模型中的公平性评估，对全球的个人隐私保护产生积极影响，使整个社会受益。这个首创平台的提出和使用是确定AI模型是否公平并允许适当缓解的关键一步。

该平台将如何评估 AI 模型的公平性?

Meta 负责AI、Instagram、民权的业务团队正在向 Instagram 用户推出一项平台外调查。用户将被要求自愿分享他们的种族或者民族信息。由第三方调查机构收集的数据将与第三方统计结构秘密共享，统计机构或 Meta 都无法了解用户的调查回复。然后，统计机构使用来自AI模型的加密预测数据计算调查结果，这些数据由 Meta 以加密方式共享，Meta 将来自每个统计机构的反馈数据进行组合、脱敏，形成总体的公平性测量结果。该平台使用的加密技术使 Meta 能够衡量数据的偏见性和公平性，同时为提供敏感数据的用户进行高水平的隐私保护。

Meta 和 Oasis 在AI模型包容性和公平性方面具有共同愿景

Meta 和 Oasis 在AI发展和数据利用方面有着共同的愿景，该隐私计算平台上采用的加密技术在应用规模方面是史无前例的。Meta 的AI总监 Esteban Arcaute 说：“我们力求确保 Meta 的AI造福于人类和社会，这需要内部和外部不同团队之间的深入协作。” “安全多方计算方法是与 Oasis Labs 合作开发的一种以隐私保护为核心的方法，可在采用成熟的隐私保护方法将人们的隐私放在首位的同时，实现对公平性的评估工作。”

Oasis 将与 Meta 一起探索更复杂的隐私保护方法。鉴于双方对AI模型惠及全球数十亿人的共同愿景，下一步将探索以区块链网络为基础的新兴 Web3 技术。研究目标是在开展和收集调查数据及后续的评估使用方面提供进一步的可访问性、可审计性和公开透明。

Oasis Labs 创始人 Dawn Song 教授表示：“我们很高兴成为 Meta 的技术合作伙伴，参与这项开创性的计划来评估AI模型的公平性，同时使用前沿的加密技术保护用户的隐私，这是现实世界中首次使用这些技术大规模评估AI模型公平性。我们期待与 Meta 的进一步合作，构建人工智能和数据利用的责任体系，建立一个更公平、更具包容性的社会。”

Oasis Labs 的发展目标

Oasis Labs致力于构建数据所有权和使用权的责任体系，他们认为在 Web3 世界中任何实体都不能将获取用户数据视为理所当然。Oasis Labs正在研究区块链、隐私计算等技术，旨在促进个人隐私保护、数据治理和数据使用责任化，让开发人员更轻松地整合隐私保护数据存储、治理和计算。去中心化体系和 Web3 有能力接触到世界上的每个人，当其与数据隐私相结合时，可以使相关公司企业在接触用户的同时安全高效地获得受隐私保护的敏感数据，构建更好的产品服务用户。

来源：Medium.com，版权归原作者所有，如有侵权，请联系告知，我们将尽快处理。