成员推理攻击(Membership Inference Attacks Against Machine Learning Models)通俗易懂
核心的推理依据是机器学习模型在**处理训练集中的数据时通常会展现出更高的置信度和准确性**,因为模型是直接在这些数据上学习到的**规律和特征**。影子训练技术背后的主要思想是:**相似的数据记录在相同服务上训练的模型会表现出相似的行为**。模型的查询仅限于给出**input**,返回模型的**output**(黑盒子问题),在训练集和模型结构位置的情况下,我们面临的最大问题就是**如何训练attacker模型**,因此本论文提出了**影子模型**,通过影子模型对attacker进行训练。
原创
2024-06-05 21:56:15 ·
1408 阅读 ·
0 评论