Go最新隐私保护 AI 的演变：从协议到实际实现(2)，2024年最新我的阿里春招之路分享-CSDN博客

本文链接：https://blog.csdn.net/2401_84919775/article/details/138989416

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

考虑到上述情况，建立一个关于使用新人工智能技术的道德决策框架至关重要。应对隐私挑战并考虑技术伦理对于人工智能的持久成功至关重要。其中一个主要原因是，在技术创新和隐私问题之间找到平衡将促进对社会负责的人工智能的发展，有助于公共价值和私人安全的长期创造。

传统方法风险

在我们继续使用有效的隐私保护技术之前，让我们先看看传统方法及其可能面临的问题。传统的隐私和机器学习方法主要围绕两个概念：用户控制和数据保护。用户想知道谁收集他们的数据，出于什么目的，以及这些数据将被存储多长时间。数据保护涉及匿名和加密的数据，但即使在这里，差距也是不可避免的，尤其是在机器学习中，解密通常是必要的。

另一个问题是，机器学习涉及多个利益相关者，从而形成了一个复杂的信任网络。在不同实体之间共享数字资产（例如训练数据、推理数据和机器学习模型）时，信任至关重要。试想一下，有一个实体拥有训练数据，而另一组实体可能拥有推理数据。第三个实体提供在推理上运行的机器学习服务器，由其他人拥有的模型执行。此外，它还在涉及多方的广泛供应链的基础设施上运营。因此，所有实体都必须在复杂的链条中表现出对彼此的信任。管理这个信任网络变得越来越困难。

安全漏洞示例

随着我们更多地依赖使用机器学习的通信技术，数据泄露和未经授权访问的可能性就会增加。黑客可能会试图利用这些系统中的漏洞来获取个人数据，例如姓名、地址和财务信息，这可能导致资金损失和身份盗用。

一份关于恶意使用人工智能的报告概述了三个安全问题领域：现有威胁的扩展、新的攻击方法以及威胁典型特征的变化。恶意使用人工智能的例子包括使用深度伪造技术的BEC攻击，助长了社会工程策略。IBM 的 DeepLocker 演示了 AI 辅助的网络攻击，展示了 AI 如何通过根据趋势和模式做出决策来增强勒索软件攻击。值得注意的是，TaskRabbit 遭受了 AI 辅助的网络攻击，其中支持 AI 的僵尸网络执行了 DDoS 攻击，导致数据泄露，影响了 375 万客户。

此外，网上购物的增加助长了无卡（CNP）欺诈，再加上合成身份和身份盗窃问题的上升。预计到 2024 年，其损失可能达到 2000 亿美元，交易量将增长 23% 以上。

保护隐私的机器学习

这时，保护隐私的机器学习就有了解决方案。最有效的技术包括联邦学习、同态加密和差分隐私。联邦学习允许不同的实体在不共享显式数据的情况下共同训练模型。反过来，同态加密可以在整个过程中对加密数据进行机器学习，而差分隐私确保计算输出不会与单个数据存在相关联。这些技术与可信的执行环境相结合，可以有效地解决隐私和机器学习交叉点的挑战。

隐私联邦学习的优势

正如你所看到的，与保护隐私的机器学习技术（尤其是联邦学习）相比，经典的机器学习模型缺乏安全实施人工智能系统和物联网实践的效率。作为机器学习的去中心化版本，联邦学习有助于使 AI 安全保护技术更加可靠。在传统方法中，敏感的用户数据被发送到集中式服务器进行训练，这带来了许多隐私问题，而联邦学习通过允许模型在设备上本地训练来解决这个问题，从而确保用户数据安全。

增强数据隐私和安全性

联邦学习具有协作性质，将边缘上的每个物联网设备视为唯一的客户端，在不传输原始数据的情况下训练模型。这确保了在联邦学习过程中，每个物联网设备只收集其任务所需的信息。通过将原始数据保留在设备上并仅向中央服务器发送模型更新，联邦学习可以保护私人信息，最大限度地降低个人数据泄露的风险，并确保安全操作。

提高数据准确性和多样性

另一个重要问题是，**用于训练模型的集中式数据可能无法准确表示模型将遇到的全部数据。**相比之下，在来自各种来源的去中心化数据上训练模型并将它们暴露在更广泛的信息中，可以增强模型泛化新数据、处理变化和减少偏差的能力。

更高的适应性

联邦学习模型表现出的另一个优势是无需重新训练即可适应新情况的显着能力，这提供了额外的安全性和可靠性。利用以前经验的见解，这些模型可以做出预测，并将在一个领域获得的知识应用到另一个领域。例如，如果模型在预测特定领域的结果方面变得更加熟练，它可以将这些知识无缝地应用于另一个领域，从而提高效率、降低成本并加快流程。