DP敏感度
文章平均质量分 78
全局,局部,平滑
XueDaxuan
这个作者很懒,什么都没留下…
展开
-
Removing Disparate Impact of Differentially Private Stochastic Gradient Descent on Model Accuracy
motivation:不合适的梯度剪切和随机噪声叠加影响不均衡数据中的少数代表和复杂的类和子群,从而导致效用损失的不平等。methods:修改的DPSGD,称为DPSGD-F。为了实现各分组在效用损失相等的情况下实现差分隐私。它使用自适应裁剪来调整每个组的样本贡献,使每个组的隐私级别根据其隐私成本进行校准。因此,在DPSGD-F中,最终各组的效用损失是相同的。传统的DPSGD步骤:梯度下降-根据阈值C裁剪clip-加噪声-反向传播core:为了在神经网络的私有训练中减少噪声,DPSGD截断神经网原创 2022-04-26 10:53:49 · 541 阅读 · 1 评论 -
差分隐私-敏感度
1.中心化对应全局敏感度,本地化对应局部敏感度。2.全局敏感度在修改一个元祖时查询结果的最大变化。对于和、计数、最大值全局敏感度很容易计算。例如计数的全局敏感度为1,因为对于任何两个相邻的数据集,只要一个元祖被更改,而对于直方图查询的全局敏感度为2,示例图如下:3.为什么需要局部敏感度?当全局敏感度较大时,必须像输出中添加大量的噪声以实现差分隐私,这就有可能严重损害数据效用。为了解决这个问题,Nissim等人提出了局部敏感度的思想。4.敏感度是决定加入噪声大小的关键参数,它指删除数据集中任.原创 2022-03-08 10:07:26 · 3587 阅读 · 0 评论 -
DP敏感度(全局,局部,平滑)
L2灵敏度明显低于L1灵敏度。向量值拉普拉斯机制需要使用 L1灵敏度,而向量值高斯机制允许使用L1或L2灵敏度。这是高斯机制的一个主要优势。对于L2灵敏度远低于L1灵敏度的应用,高斯机制允许添加更少的噪声。1.全局敏感度:独立于所查询的实际数据集(适用于相邻的任何选择)添加行或删除行会导致相邻数据集距离为1,修改行会导致数据集距离为2.2.局部敏感度:将其中一个数据集固定为被查询的数据集(给定的一个数据集)。当全局灵敏度较大时,必须向输出中添加大量的噪声,以实现差分隐私,这可能会严重损原创 2022-03-21 20:20:15 · 3525 阅读 · 0 评论