【差分隐私的指数机制该怎么理解？】差分隐私系统学习记录（三）

写在前面的话

纯属个人笔记，如有问题请看原文或者留下评论。

The exponential mechanism

举个例子：

这是一个竞拍收益最大化的问题，指数机制的作用在于隐藏好这些竞拍价格。怎么隐藏？给它们弄一个打分函数u来实现。再举个例子，我们有很多课程，小明最喜欢哪一门呢，这也是一个指数机制的问题。并且从这些例子可以看出，指数机制处理的数据都是离散型的数据，简单理解就是从头至尾这些数据就像一个个客观条件不能变动，如果要用差分隐私就从它们的可能性入手。下面给出文章的解释：

不同于拉普拉斯机制，指数机制所用的底数是e，如上图所示。根据证明，最后还是满足差分隐私。这种直观的观点忽略了规范化术语的一些影响，当数据库中的其他人导致某些元素r∈R的效用减少，而其他元素增加时会出现。简单来说就是本来是客观的事物发生了改变，指数机制这种做法就不怎么起作用了。接下来定义的指数机制保留了一半的隐私预算，用于标准化术语中的更改。

我个人认为就是指数机制对未来数据的变化无法很好的适应，上面提到的竞拍的例子就是说，可能存在潜在的价格会影响最终结果，指数机制没有考虑这一点。往大的方向说就是打分函数若是超多项式的，那么会导致一个复杂的分布使得指数机制不再有用。下面是指数机制的证明：



上面提到指数机制具有很强的效用保证的原因是底数是e，数据效用的变化会体现的很明显。同时对于一个固定的数据库，将其中最高的分数作为该数据库的分数。限定了“好”的元素概率。将限定指数机制返回R的一个“好”元素的概率，其中好”将用OPT_u(x)来衡量。结果是，返回的元素r的效用分数不太可能比OPT_u(x)低一个多于O((∆u/ε)log|R|)的附加因子。


这个定理的大概含义前面也提到了，这里只是用形式化表达出来。现在做一个了解吧，用到了再回头看看。

从定理3.11和推论3.12的证明中可以看出，指数机制特别容易分析。来再看个例子：


上面的第一个例子是确定两种疾病A和B中哪一种更常见，A有0个人，B有c个人。其中关于打分函数的敏感度为1。用指数机制对于A最坏的情况就是直接带入敏感度为1进去，按照道理来说A的打分应该是0，最坏的情况就和B的一样了。计数查询是单调的；通过向一群买家提供固定价格所获得的收入也是如此。考虑报告一边噪声arg-max机制，它在单调效用情况下为参数ε/∆u从附加指数分布中得到的每个潜在输出的效用添加噪声，在非单调效用情况下为参数ε/2∆u，并报告结果的arg-max。这个算法，其隐私证明几乎相同的报告噪声（但失去了一倍的效用是非单调的），我们在上面的示例3.6中立即得到，结果A在c(ε/∆u)=cε中比结果B更不可能被选择。

定理3.13。报告单边噪声Arg-Max，当使用参数ε/2∆u运行时，在输出上产生与指数机制相同的分布。请注意，与报告噪声Max的情况相比，当我们使用报告单向噪声弧-Max时，我们不能报告噪声实用程序值本身。为了了解这一点，假设在数据库x中疾病B的计数为c，在相邻y中计数为c−1，并考虑一个小间隔I=[c−1，c−1+η]，对于η<1。然后在数据库x上，I中的结果的概率为零，而在数据库y上，它是非零的，违反了（ε，0）差分隐私。