差分隐私的原理
- 差分隐私要求任何被发布的信息都应该与上图中信息O类似:
应当避免让攻击者分辨出任何具体的个人数据,为此,差分隐私要求被发布的信息需经一个随机算法所处理,且该随机算法会对信息做一些扰动。
差分隐私数学定义
如何设计满足差分隐私的算法
- 一般做法:
从一个不满足差分隐私的算法出发,往算法里适当的加入一定噪声,以使其输出满足差分隐私的要求。
拉普拉斯机制
pr[η=y-q(D)]
随机化回答
- 随机化回答可以满足ε-差分隐私,由于其随机性,攻击者不能从随机化的输出反推出输入;根据ε来调整随机化的概率即可
敏感性定义
差分隐私应用
差分隐私数据库
差分隐私机器学习