差分隐私：原理，应用与展望

最新推荐文章于 2024-04-30 09:53:39 发布
最新推荐文章于 2024-04-30 09:53:39 发布
阅读量7.4k 收藏 34
点赞数 7
分类专栏： 差分隐私 文章标签： 大数据 安全
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/A13526_/article/details/124062841
版权

隐私保护的挑战

例子一

在这里插入图片描述
在这里插入图片描述

  • 一个简单的做法：将数据匿名化
  • 这样的做法看似合理，但其实并不能真的保护隐私
  • 原因：匿名化之后的数据往往还保留着许多可能泄漏隐私的信息
    在这里插入图片描述
  • 可能在别的地方得到一些数据以后，数据进行匹配以后，会反推出用户信息，从而破坏用户隐私

比如：

  1. 九十年代中期，美国马萨诸塞州一政府部门就曾遭受这样的攻击
  2. 他们发布了匿名化的员工医疗记录用于研究
  3. 后果：当时的州长的医疗记录被泄漏
  4. 后续研究表明，63%的美国人口有着唯一的{出生日期、性别、邮编}组合，这说明有着63%的人可能面临着暴露身份

既然匿名化容易被攻击，我们是否可以考虑不发布详细的元组，转而发布粗粒度的统计数据？
答案：统计数据也有可能泄漏隐私
在这里插入图片描述
在这里插入图片描述
数据重构攻击
在这里插入图片描述
这种重构结果有多准确呢？
在这里插入图片描述
数据重构攻击的实际效果

  • 美国普查局用他们2010年所发布的一组统 计数据试验了数据重构攻击
  • 结果表明，他们能重构17%美国人口的数 据
  • 为此，他们宣布将于2020年的统计数据发 布中使用差分隐私

机器学习模型发布

在这里插入图片描述
机器学习模型也可能泄露隐私 原因？

  • 机器学习模型往往会不经意地“记住”源数据中的元组
  • 因此，模型在那些元组上的表现可能跟在其他元组上的 表现会不一样
  • 类比与：学生考试时，碰上之前做过的题和碰上没做过的题，反应是不一样的

对机器学习模型的隐私攻击

在这里插入图片描述
小总结：

  • 总而言之，攻击者可以有很多种不同方式 来对隐私数据进行攻击
  • 为防范这些可能的攻击，我们需要有一个 严谨的框架来对数据隐私进行保护
  • 差分隐私正是这样的一个理论框架

差分隐私：定义及原理

差分隐私的直观原理

在这里插入图片描述

  • 差分隐私要求任何被发布的信息都应当与上图中的信息0类似： 应当避免让攻击者分辨出任何具体的个人数据
  • 为此，差分隐私要求被发布的信息需经一个随机算法所处理， 且该随机算法会对信息做一些扰动

差分隐私的定义

在这里插入图片描述

差分隐私定义的图示

在这里插入图片描述

  • 攻击者并不能观察到，某一个元素对结果输出的影响，从而保证了用户的隐私

差分隐私算法

如何设计满足差分隐私的算法

在这里插入图片描述

拉普拉斯机制

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

  • 因为对个体依赖程度变为3了

敏感度

在这里插入图片描述

其他噪声机制

在这里插入图片描述

随机化回答

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
采用这一类随机方式进行估算的话，不会对原来真实的结果的估算产生重大影响吗？
在这里插入图片描述

从随机化回答获得统计信息

在这里插入图片描述
在这里插入图片描述

随机化回答：总结

在这里插入图片描述
只能推出有多少个是yes，有多少个是no，只能知道yes和no的比例，而不是知道具体谁投了yes，谁投了no

  • 拉普拉斯机制和随机化回答是两个经典的差分隐私算法，还有许多其他不同的算法，一般而言，不同的应用场景、不同的数据集、不同的输出往往需要不同的算法设计，如何根据应用来设计差分隐私方法是不少领域的学者都感兴趣的问题

差分隐私：应用

差分隐私数据库

在这里插入图片描述
技术难点
在这里插入图片描述

差分隐私机器学习

在这里插入图片描述
TensorFlow Privacy 的基本原理

在这里插入图片描述

差分隐私数据采集

在这里插入图片描述
技术难点
在这里插入图片描述

差分隐私数据合成

在这里插入图片描述
技术难点
在这里插入图片描述

前景展望

差分隐私的新方向

  • 联邦学习
  • 与多方安全计算的结合

总结

  • 差分隐私是近年来受到较多关注的一个隐 私保护模型
  • 有着较强的理论保证，并在不少场景中得 到了应用
  • 但仍有许多有待解决的问题
佛耶_
关注
  • 7
    点赞
  • 踩
  • 34
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
差分隐私保护的ppt课件
10-08
该文件为ppt格式，内容为差分隐私保护的基础概念和理论。对初学者有帮助。建议初学者先孳息阅读博客内容三遍以上，如果有条件结合吴英杰的隐私保护数据模型发布这本书，吃透理论。下载的课件有实例，帮助理解。
差分隐私技术概论
qq_45113223的博客
04-17 5055
1.隐私保护的挑战 场景： 在上面场景中，我们要与研究者分享病人的医疗数据，怎样才能保护病人的隐私？ 做法1：将数据匿名化，也就是将数据中病人的名字和身份证号码等可以唯一识别病人的信息去掉，将其余的信息提供给研究者，如下图所示 分析：这样的作法其实并不能真的保护隐私，因为匿名化之后的数据往往还保留着许多可能泄漏隐私的信息，如上图所示，还保留着病人的出生日期、姓名和邮编，如果攻击者能在别处获得许多人的姓名、出生日期、性别和邮编的话，与上图病人的数据进行对应，就能反推出病人的姓名 .
教育信息化应用回顾与展望.ppt
11-21
教育信息化应用回顾与展望.ppt
采煤机传感器应用现状与展望-论文
07-08
介绍了几种常见的采煤机传感器的选型、参数和安装方式，以及各类传感器的使用现状，指出了当前采煤机传感器应用中的一些常见问题，并提出了相应的解决思路和发展展望。
区块链数据隐私保护 研究现状与展望
09-30
区块链作为一种分布式账本，集成了分布式共识、对等(peer to peer, P2P)网络、智能合约及密码学等技术，解决了“去中心化”的信任问题.区块链凭借其不可篡改、去中心化等特性，对社会各个领域产生了深远影响，掀起了区块链技术的研究与应用热潮.区块链技术应用场景十分广泛，其独特优势能够解决许多行业中的痛点.
释放相关轨迹：朝着高实用性和最佳差分隐私方向发展
03-30
释放相关轨迹：朝着高实用性和最佳差分隐私方向发展
差分隐私简介
weixin_34082177的博客
03-19 1086
\要点\\差分隐私可以通过向聚合查询结果添加随机化\"噪声\"来实现，以保护个人的条目，而不会显著改变查询结果。\\t\\t差分隐私算法保证攻击者能获取的个人数据几乎和他们从没有这个人记录的数据集中能获取的相差无几。\\t\\t最简单的算法之一是拉普拉斯机制，可以对聚合查询的结果进行后期处理。\\t\\t苹果和谷歌分别在iOS和Chrome中使用差分隐私技术。差分隐私算法也已经在隐私保护分析产品中...
差分隐私：基础原理和应用举例
weixin_52103757的博客
05-02 3737
差分隐私：原理和应用 个人笔记：图片内容和知识 直接来源 HERE 是一个很简单易懂的视频，实用理解简单理论 06年提出的关于隐私保护的理论框架，用于数据收集和信息分享 引例：一所Hospital有许多病人数据，外部人员要收集，这时如何保护 方法：匿名化（去掉姓名）：这似乎很合理，但是并不能完全保护，因为还残留病人出生日期，性别等等等。。假设攻击者拥有的知识非常丰富，它能够将这些数据一一对应起来并且找到对应的名字，这相当于没有保护 实例：90年代中期，马萨诸塞州政府部门就受到这样的攻击，一个MIT研究生利
差分隐私的作用和应用举例
ZJQ的博客
06-27 375
假设某个差分隐私算法为A()，对数据集D运算并添加噪声的结果为A(D) = V；V和V'就是统计运算的结果，差分隐私要求对临近数据集的运算结果基本一致，即。差分隐私从数学上证明了，即使攻击者已掌握除某一条指定记录之外的所有记录信息（即最大背景知识假设），它也无法确定这条记录所包含的隐私数据。差分隐私主要适用于统计聚合数据（连续的数值，或离散的数值），如交互式统计查询接口、API接口、用户侧数据统计等。也就是说任何一条记录，它在不在数据集中，对结果的影响可忽略不计，从而无法从结果中还原出任何一条原始的记录。
差分隐私技术在火山引擎的应用实践
字节跳动技术团队官方博客
04-06 6251
动手点关注干货不迷路????一、背景1.1 隐私泄漏场景随着用户自身隐私保护意识的提升和《数据安全法》、《个人信息保护法》等国家法律法规的陆续施行，如何在收集、使用用户数据的过程中保障用户的隐私安全、满足监管要求，成为了挑战性的问题。在互联网厂商的日常业务中，常见的用户隐私泄露场景有：（1）数据统计查询： 对用户数据进行统计查询的结果直接向客户返回（如客群洞察等业务），存在...
区块链数据隐私保护：研究现状与展望.docx
06-09
区块链数据隐私保护：研究现状与展望.docx
云计算中的差分隐私模型与数据保护之计算机研究.docx
10-01
云计算中的差分隐私模型与数据保护之计算机研究.docx
信息传输技术的最新进展与应用展望PPT课件
10-28
信息传输技术的最新进展与应用展望PPT课件，信息传输技术的最新进展与应用展望课件，信息传输技术的最新进展与应用展望PPT
云计算知识点-02
lv785的博客
04-27 1227
DataNode是HDFS文件系统的工作节点，DataNode会按照客户端或者是NameNode的调度来存储和检索数据，并定期向NameNode发送它所存储的数据块列表，DataNode是文件系统中真正存储数据的地方。通过这种虚拟化可以减少服务器的数量，提高服务器的使用效率，可以在一定程度上摆脱物理上的空间限制，实现随时随地随需的自由掌控。Glance(镜像服务组件)，其作用是：提供虚拟机镜像的存储，查询和检索功能，为nova进行服务，依赖于存储服务（存储镜像本身）和数据库服务（存储镜像相关的数据）。
哪些情况下左联接的数据量比左表大？
Java/Python/大数据干货分享
04-26 363
本文主要探讨SQL和Pandas左连接数据量比左表大的问题。在某些情况下，执行左连接时，SQL和Pandas输出的结果会比左表数据量大。这是为什么呢？左连接是关系型数据库中最常见的连接之一。它的作用是从左表中取出所有的行，以及与右表匹配的所有行。如果某个行在右表中没有匹配到，则会在输出结果中以NULL的形式呈现1）左表与右表为一对多或多对多2）左表与右表关联键都存在空值NULL1）视情景删除或聚合右表中重复关联键的数据2）过滤表中关联键值为NULL的行。
25计算机考研院校数据分析 | 四川大学
m0_72717598的博客
04-24 676
复试成绩总分为200分，其中笔试部分占100分，面试占60分，外语能力测试占40分，笔试、面试和外语听说能力成绩之和为复试成绩，复试成绩折合成百分制应不低于60分，否则视为复试不合格，不予录取。复试成绩总分为200分，其中笔试部分占100分，面试占60分，外语能力测试占40分，笔试、面试和外语听说能力成绩之和为复试成绩。复试成绩折合成百分制应不低于60分，否则视为复试不合格，不予录取。复试成绩总分为200分，其中笔试部分和实践能力部分共占120分，面试占80分，笔试和面试成绩之和为复试成绩。
中国移动发布国内领先的大云磐石DPU芯片速率达400Gbps
最新发布
csdnsqst0046的博客
04-30 75
后续，磐石DPU芯片将广泛应用于中国移动数据中心建设，以其优越性能，支撑通用计算、智能计算等业务场景使用，为云计算、边缘计算、大数据处理、AI大模型训练等领域提供更加安全、可靠、高效的技术支撑，助力我国大数据、人工智能、算力网络高速发展，推动算力强国战略落地。4月28日，中国移动在其2024算力网络大会上正式发布大云磐石DPU，该芯片带宽达到400Gbps，为国内领先水平，将应用于移动云新一代大云磐石DPU产品，实现关键技术自主可控。据介绍，DPU是一种专注于数据处理的处理器，可实现更高效的数据处理。
sonar启动报错
m0_53166211的博客
04-27 210
sonarqube启动报错
RabbitMQ知识点总结（一）
m0_59925573的博客
04-27 647
消息发送端产生消息重复的原因是消息成功进入消息存储后，因为各种原因使得消息发送端没有收到“成功”的返回结果，并且因为存在重试机制，所以消息重复发送。在投递过程中产生的消息重复接收主要是因为消息接收者成功处理完消息之后，消息中间件不能及时更新投递状态造成的（就是MQ没有收到ACK，就没删除掉消息）
差分隐私的应用、原理与展望
05-22
差分隐私是一种保护隐私的方法，它能够在保持数据可用性的同时，对敏感信息进行保护。差分隐私应用广泛，可以用于多种场景，例如： 1. 数据共享：在医疗、金融等领域，数据共享是非常重要的。但是，由于涉及到个人隐私，直接共享可能会导致隐私泄露。差分隐私可以通过添加噪声的方式，使得共享数据的隐私得到保护。 2. 数据挖掘：在数据挖掘过程中，可能会出现敏感信息的泄露。差分隐私可以通过在数据挖掘过程中添加噪声，保护敏感信息。 3. 个性化推荐：个性化推荐需要获取用户的行为数据，但是这些数据可能包含敏感信息。差分隐私可以在不泄露敏感信息的情况下，提供个性化的推荐服务。 差分隐私的原理是通过向数据中添加随机噪声，使得外部攻击者无法从数据中推断出个人的敏感信息。差分隐私的核心是随机化，通过添加随机噪声来保护隐私。 差分隐私的展望是非常广阔的。随着数据的不断增多，保护隐私变得越来越重要。差分隐私已经成为了一种热门的研究方向，未来将会有更多的研究者投入到差分隐私的研究中。同时，随着技术的不断发展，差分隐私的性能也会不断提高，更加有效地保护隐私。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值