论文笔记(九)《UNLEARNABLE EXAMPLES: MAKING PERSONAL DATA UNEXPLOITABLE》
《不可学习样本:使个人数据不可利用》
背景:免费的学习资料很多,但是引起了使用未经授权使用个人的数据进行商业训练的隐私担忧。
贡献:提出了一种误差最小化噪声,它可以使训练示例不可学习。
错误最小化噪声是有意产生的,以减少一个或多个接近于零的训练示例的错误,可以防止模型在训练过程中受到目标函数的惩罚,从而使模型认为没有“任何”可以从示例中学习。让深度学习无法利用个人未经授权的数据。
误差最小化噪声可以基于样本也可以基于类产生。
相关工作:
数据中毒攻击:
数据中毒攻击的目的是通过修改训练样例来降低模型在干净样
原创
2022-05-21 13:31:20 ·
1018 阅读 ·
0 评论