DOCTOR: Holistic Risk Assessment of Inference Attacks Against Machine Learning Models

1.概述

2.推理攻击

2.1 成员推理

针对机器学习模型的成员关系推断(MemInf)涉及攻击者旨在确定目标数据样本是否用于训练目标机器学习模型。

2.2 模型反转

模型反转攻击(ModInv)旨在从目标ML模型重构数据样本，即允许攻击者直接学习有关训练数据集的信息。

2.3 属性推理

机器学习模型可以学习与原始任务无关的关于训练数据的额外信息;例如，从个人资料照片中预测年龄的模型也可以学习预测种族。属性推断(Attribute inference, AttrInf)旨在利用这种意想不到的信息泄漏。

2.4 模型偷取

模型窃取攻击(ModSteal)的目标是从目标模型中提取参数。理想情况下，攻击者将能够获得与目标模型性能非常相似的模型(“被盗”模型)

3 ML-DOCTOR

To Appear in the 31st USENIX Security Symposium, August 10–12, 2022.