对于联邦学习及相关技术的学习理解

注：最近在研究隐私计算、联邦学习、多方安全计算（MPC）、同态加密等概念，根据学习及自身的理解，记录整理：

隐私计算 作为近年来异军突起的赛道，能在保证**数据“可用不可见”**情况下，对数据进行开采、处理与分析，可充分助力数据流通与安全协作，其核心技术如下：

联邦学习（FL） 作为新一代人工智能基础技术，使各参与方无需交换存储在本地的原始数据，而是通过交换一些模型的信息，实现数据协作建模，解决数据隐私与数据共享的矛盾。，其作为第三代隐私计算代表技术，能有效地解决数据孤岛和数据安全共享问题。本质上来说，它是一种分布式机器学习技术，或机器学习框架，主要有以下三种模式：

• 横向联邦学习：特征重合度高，样本重合度低
• 纵向联邦学习：样本重合度高，特征重合度低
• 联邦迁移学习：样本、特征重合度均低

然而，在联邦学习框架下，多方数据的诸如同态加密、同态解密、密态计算等复杂计算和通信会带来庞大的算力压力，仅凭通用CPU的计算能力难以满足要求，业界对此提出了“异构计算技术”的新思路，所谓异构计算 ，是指通过不同的计算单元组合来进行加速计算。异构计算的核心在于“异构”两个字，让每个计算单元做自己擅长的事情，从而变成一个可以提供高效算力的集合体，发挥CPU、GPU、FPGA（可编程逻辑、低延迟处理、定制结构化缓存等）在通用计算上的灵活性，及时响应数据处理需求，经济有效地利用各种计算资源、分配计算任务，特别适合处理海量数据的分析计算。尤其是在联邦学习场景中，异构计算技术的应用，使得同态加密在运算效率上取得了重大的突破。如何通过结合GPU、FPGA等异构计算硬件，更好推动加速计算，是推动联邦学习持续发展的关键命题。

异构计算技术为联邦学习框架下的复杂计算支撑强大的算力，如，同态加密（homomorphic encryption）是联邦学习的重要技术之一，对联邦学习的性能影响最大。在联邦学习参数传递过程中，为了支持参数可以在密态下进行无损的计算，需使用同态加密技术，它提供了一种对加密数据进行处理的功能，但同时也会产生巨大的密文计算量和传输量。面对这样庞大的算力挑战，业界提出了“异构计算”技术的新思路。
同态加密 能够在不解密的情况下，对密文数据进行计算。这使您无需破坏敏感源数据，同时可以对数据进行处理。同态加密方案最有趣的地方在于，其关注的是数据处理安全。同态加密提供了一种对加密数据进行处理的功能。也就是说，其他人可以对加密数据进行处理，但是处理过程不会泄露任何原始内容。同时，拥有密钥的用户对处理过的数据进行解密后，得到的正好是处理后的结果。一般分为：加 法同态：f (A) + f (B) = f (A+B)；乘法同态：f (A) * f (B) = f (A*B)；全同态加密：同时满足加法同态和乘法同态的算法。