大背景 面临的问题:1、隐私问题。2、非 IID 数据。2、无线网络通信资源有限。3、复杂的用户身份,训练过程面临着拜占庭设备的挑战,它可以向模型注入中毒信息
根据上一篇,FAug-FD 虽然工作良好,但当边缘设备上传本地原始数据以在云中训练全球数据生成器时,会导致私人数据泄露。此外,FAug-FD 只考虑 IID 数据和通信效率的要求,但仍忽略了拜占庭设备带来的安全挑战。
1、提出强大的联邦增强和联邦蒸馏 (RFA-RFD),2、在 RFA 和 RFD 中采用了检测和丢弃机制
总体思想:
RFA: 是解决非 IID 本地数据问题的方法。首先在边缘设备上训练本地数据生成器,然后根据上传的本地生成器生成的 IID 数据集在云服务器中训练全局生成器,最后,设备通过下载全球生成器来纠正非 IID 数据集。在边缘设备中获取 IID 本地数据后,实施 RFD 。
RFD:以提高本地模型的性能,其中设备仅共享模型输出的本地信息,以减少通信开销。
在 RFA 和 RFD 中都采用了检测和丢弃机制,以实现拜占庭设备的稳健性
Robust 联邦增强
CVAE(有条件的 VAE),可以在每个边缘设备上生成特定标签的数据,本地 CVAE 模型包含Ei (编码器) 和 Gi (解码器/生成器)&#x