学习笔记——Exploiting Unintended Feature Leakage in Collaborative Learning（协作学习中的非预期特征泄露研究）

原文地址：https://www.computer.org/csdl/proceedings-article/sp/2019/666000a497/19skfEG4cHC

协作机器学习及相关技术允许多个参与者各自训练自己的模型，然后定期进行模型更新交换，进而构建联合模型。

但在彼此交换模型更新的同时会造成数据的泄露，并且利用这些数据可以进行主动或者被动的成员推理攻击。

研究内容：

1. 展示了对抗攻击者可以推断出其它训练集中确切数据点的存在；例如，其他人的训练数据中的特定位置。
2. 展示了对抗攻击者是如何推断出只包含训练数据子集且与联合模型要捕获的属性无关的属性。（例如，可以获得一个人何时首次出现在二元性别训练分类器的照片中。）
3. 通过对各种任务、数据集和学习配置的攻击，分析它们的局限性，并且分析可能的防御。

基础知识

传统机器学习是将所有的数据集合起来进行集中的训练；而协作机器学习是将数据分别在不同的点进行训练（更新各自的模型），然后将各个模型更新的结果定期进行交换，从而构建联合模型。可以说协作机器学习是传统机器学习的替代方法。

研