Python领域优质萌新学习笔记

动手学差分隐私（Programming Differential Privacy）一本面向开发者的差分隐私书籍。

教材原文地址：https://www.cis.upenn.edu/~aaroth/Papers/privacybook.pdf差分隐私的设计初衷是针对互联网规模的数据集。类似于第8节中的重建攻击可以由一个多项式时间有界的对手在大小为nnn的数据库上仅询问O(n)O\left( n\right)O(n)个查询来实施。当nnn达到数亿级别，并且每个查询需要线性量级的计算时，即使查询可以并行化，这样的攻击也是不现实的。这一观察促成了差分隐私的早期发展：如果对手被限制在亚线性数量的计数查询范围内，那么每个查询添加o

教材原文地址：https://www.cis.upenn.edu/~aaroth/Papers/privacybook.pdf到目前为止，我们对私有数据分析模型做了一些隐含的假设。例如，我们假设存在某个可信的数据管理者可以直接访问私有数据集，并且我们假设攻击者只能访问算法的输出，而无法访问算法执行过程中的任何内部状态。但如果情况并非如此呢？如果我们不信任任何人查看我们的数据，甚至不信任他们进行隐私保护的数据分析呢？如果某个黑客可能在私有算法运行时访问其内部状态呢？在本节中，我们放宽之前的一些假设并考虑这些问

教材原文地址：https://www.cis.upenn.edu/~aaroth/Papers/privacybook.pdf数据分析中最有用的任务之一是机器学习：自动找到一个简单规则以准确预测从未见过的数据的某些未知特征的问题。许多机器学习任务可以在差分隐私的约束下执行。事实上，隐私约束不一定与机器学习的目标相冲突，两者都旨在从数据所来自的分布中提取信息，而不是从单个数据点中提取。在本节中，我们将概述一些关于隐私机器学习的最基本结果，而不试图全面涵盖这个广阔的领域。机器学习的目标通常与隐私数据分析的目标相

教材原文地址：https://www.cis.upenn.edu/~aaroth/Papers/privacybook.pdf博弈论中最引人入胜的领域之一是机制设计（mechanism design），它是一门设计激励措施以促使人们按你期望的方式行事的科学。差分隐私已被证明在几个意想不到的方面与机制设计有着有趣的联系。它提供了一种量化和控制隐私损失的工具，如果机制设计者试图操纵的人关心隐私，这一点很重要。然而，它还提供了一种限制机制结果对任何单个个体选择的敏感性的方法，事实证明，即使在没有隐私问题的情况下，

教材原文地址：https://www.cis.upenn.edu/~aaroth/Papers/privacybook.pdf到目前为止，我们对差分隐私的讨论忽略了计算复杂度问题，允许数据管理者和攻击者的计算能力不受限制。实际上，数据管理者和攻击者的计算能力可能都是受限的。将我们自己限制在计算能力受限的数据管理者范围内，会限制数据管理者的操作，使得实现差分隐私变得更加困难。实际上，我们将展示一类计数查询的示例，在标准的复杂度理论假设下，即使已知低效算法，如SmallDB和私有乘法权重算法，也无法高效生成合成

教材原文地址：https://www.cis.upenn.edu/~aaroth/Papers/privacybook.pdf在本节中，我们将研究各种下界和权衡问题：为了不完全破坏任何合理的隐私概念，响应必须达到多大的不准确性？前一个问题的答案如何依赖于查询的数量？我们能否在每种差分隐私所允许的准确性方面，将 (ε,0)\left( {\varepsilon ,0}\right)(ε,0) -差分隐私与 (ε,δ)\left( {\varepsilon ,\delta }\right)(ε,δ) -差分隐私

教材原文地址：https://www.cis.upenn.edu/~aaroth/Papers/privacybook.pdf在本节中，我们简要描述两种通用技术，它们都能提供无条件的隐私保证，通常可以让数据分析师的工作更轻松，尤其是在处理具有任意或难以分析的最坏情况敏感度的函数时。当分析师由于某些外部原因有理由相信某些函数在实际应用中“通常”不敏感时，这些算法在计算这些函数时最为有用。子采样与聚合（Subsample and Aggregate）技术产生了一种“强制”计算函数f(x)f\left( x\ri

教材原文地址：https://www.cis.upenn.edu/~aaroth/Papers/privacybook.pdf在前面的章节中，我们专注于私有查询发布问题，在该问题中，我们坚持对所有查询的最坏情况误差进行界定。如果我们改为仅要求在给定查询的某种分布下平均误差较低，我们的问题会更容易解决吗？在本节中，我们会发现答案是否定的：给定一个能够在查询的任何分布下以较低平均误差解决查询发布问题的机制，我们可以将其“提升”为一个能够解决查询发布问题并达到最坏情况误差的机制。这既揭示了私有查询发布的难度，也为

由于GitHub项目仅翻译到前5章，我们从第6章开始通过大语言模型翻译，并导出markdown格式。大模型难免存在错漏，请读者指正。教材。

教材原文地址：https://www.cis.upenn.edu/~aaroth/Papers/privacybook.pdf中文翻译版 Github 项目地址1：https://github.com/guoJohnny/algorithmic-foundation-of-dp-zh-cn中文翻译版 Github 项目地址2：https://github.com/doubleheiker/algorithmic-foundation-of-dp-zh-cn在本章中，我们泛化了上一节的查询发布算法。结果，我们

教材原文地址：https://www.cis.upenn.edu/~aaroth/Papers/privacybook.pdf中文翻译版 Github 项目地址1：https://github.com/guoJohnny/algorithmic-foundation-of-dp-zh-cn中文翻译版 Github 项目地址2：https://github.com/doubleheiker/algorithmic-foundation-of-dp-zh-cn隐私数据分析中最基本的原语之一就是能够回答对数据集的

一个算法它的应答流。

教材原文地址：https://www.cis.upenn.edu/~aaroth/Papers/privacybook.pdf中文翻译版 Github 项目地址1：https://github.com/guoJohnny/algorithmic-foundation-of-dp-zh-cn中文翻译版 Github 项目地址2：https://github.com/doubleheiker/algorithmic-foundation-of-dp-zh-cn我们在“最常见的名称”和“最常见的疾病”例子中，提到

教材原文地址：https://www.cis.upenn.edu/~aaroth/Papers/privacybook.pdf中文翻译版 Github 项目地址1：https://github.com/guoJohnny/algorithmic-foundation-of-dp-zh-cn中文翻译版 Github 项目地址2：https://github.com/doubleheiker/algorithmic-foundation-of-dp-zh-cn本章在回顾了一些概率工具之后，介绍了拉普拉斯机制，该

在数据分析的背景下可以这样定义隐私，即：要求分析人员在分析完成后对数据集中的任何个人的了解不超过分析开始前的了解。这一目标的形式化也是很自然的，要求对手对个人的前后认知（即访问数据库之前和之后的认知）不应该“差别过多”，或者对数据库的访问不应该“过多”地改变对手对任何个人的认知。如果数据库能提供任何信息，那么这种隐私的概念是不可能实现的。例如，假设对手的先前的错误认知是每个人都有2个左脚。对统计数据库的访问告诉我们，几乎每个人都有一只左脚和一只右脚。攻击者现在每个人是否有两个左脚持完全不同的看法。

隐私保护数据分析的问题由来已久，涉及多个学科。随着有关个人的电子数据变得越来越详细，并且随着技术能够更强大地收集和管理这些数据，对隐私的鲁棒性、隐私的意义和隐私在数学上严格的定义需求不断增长，对满足隐私定义的算法需求也在不断增长。差分隐私就是这样的定义。在讨论了差分隐私的含义之后，本书主要介绍了实现差分隐私的基本技术，并将这些技术应用于创造性的结合中（第3-7节），其中使用了’查询发布问题’作为示例。