DOCTOR: Holistic Risk Assessment of Inference Attacks Against Machine Learning Models

已于 2024-05-24 09:26:03 修改
阅读量256 收藏 5
点赞数 3
文章标签： 机器学习 人工智能 安全架构 网络攻击模型
于 2024-04-01 09:23:33 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_52780987/article/details/137178111
版权

目录

1.概述

在这里插入图片描述

2.推理攻击

2.1 成员推理

针对机器学习模型的成员关系推断(MemInf)涉及攻击者旨在确定目标数据样本是否用于训练目标机器学习模型。
在这里插入图片描述

2.2 模型反转

模型反转攻击(ModInv)旨在从目标ML模型重构数据样本，即允许攻击者直接学习有关训练数据集的信息。在这里插入图片描述

2.3 属性推理

机器学习模型可以学习与原始任务无关的关于训练数据的额外信息;例如，从个人资料照片中预测年龄的模型也可以学习预测种族。属性推断(Attribute inference, AttrInf)旨在利用这种意想不到的信息泄漏。

在这里插入图片描述

2.4 模型偷取

模型窃取攻击(ModSteal)的目标是从目标模型中提取参数。理想情况下，攻击者将能够获得与目标模型性能非常相似的模型(“被盗”模型)

在这里插入图片描述

3 ML-DOCTOR

在这里插入图片描述在这里插入图片描述

To Appear in the 31st USENIX Security Symposium, August 10–12, 2022.

小ku比了
关注
LiveCodeBench: Holistic and Contamination Free Evaluation of Large Language Models for Code
c_cpp_csharp的专栏
06-24 454
应用于代码相关应用程序的大型语言模型（LLM）已成为一个突出的领域，吸引了学术界和工业界的极大兴趣。然而，随着新的和改进的LLM的开发，现有的评估基准（如HumanEval、MBPP）不再足以评估其能力。在这项工作中，我们提出了LiveCodeBench，这是一种对代码LLM的全面且无污染的评估，它从三个竞争平台（即LeetCode、AtCoder和CodeForces）的比赛中收集新问题。值得注意的是，我们的基准测试还关注更广泛的代码相关功能，如自修复、代码执行和测试输出预测，而不仅仅是代码生成。
论文笔记：ML-Leaks: Model and Data Independent Membership Inference Attacks and Defenses on Machine Learn
xff1994的博客
05-10 3087
这篇文章是上一篇Membership Inference Attacks Against Machine Learning Models的跟踪研究，其提出了三个攻击模型，将上一篇中的模型一步步简化。 第一个攻击模型是将上一篇中的影子模型数量降到一个，发现实验效果不会有啥下降。 第二个模型放宽攻击者对目标模型训练集的限制，认为攻击者可以对其一无所知。影子模型的训练集采用的是和目标模型不同领域的数据集...
Usenix 2022 夏季论文简单分类
^_^
01-16 6787
最近发现Usenix 2022夏季的paper已经出了，所以扫扫看有没有有趣的文章，对文章进行了简单的分类。基于个人知识分类，可能分类不是那么准确。也可以等usenix 2022上了dblp看官方的分类。 文章目录二进制fuzz软件安全物联网声音相关侧信道可信计算内核云安全嵌入式设备AI模型安全驾驶系统移动安全LTE（通信安全？）密码学网络安全Web安全隐私未分类 二进制 DeepDi: Learning a Relational Graph Convolutional Network Model on.
CVPR 2021最全论文开放下载！附pdf下载链接！
中科院AI算法工程师的博客
06-18 1万+
CVPR 2021最全论文开放，附所有pdf下载链接！
计算机视觉论文-2021-06-08
中科院AI算法工程师的博客
06-09 3749
本专栏是计算机视觉方向论文收集积累，时间：2021年6月4日，来源：paper digest 欢迎关注原创公众号【计算机视觉联盟】，回复【西瓜书手推笔记】可获取我的机器学习纯手推笔记！ 直达笔记地址：机器学习手推笔记（GitHub地址） 1, TITLE:End-to-End Neuro-Symbolic Architecture for Image-to-Image Reasoning Tasks AUTHORS: Ananye Agarwal ; Pradeep Shenoy ; ...
计算机视觉论文-2021-12-01
中科院AI算法工程师的博客
12-02 4936
本专栏是计算机视觉方向论文收集积累，时间：2021年12月1日，来源：paper digest 欢迎关注原创公众号【计算机视觉联盟】，回复【西瓜书手推笔记】可获取我的机器学习纯手推笔记！ 直达笔记地址：机器学习手推笔记（GitHub地址） 标题：EA GAN ：一种高效的两阶段进化结构搜索算法 作者：应国浩；贺新；高斌；韩波；储小文 类别： cs.简历 [cs.简历LG， cs.NE]突出：为了缓解不稳定的问题，我们提出了一个有效的两阶段进化算法（ EA ）基于 NAS 框架来发现 ...
【人工智能】NIPS2019 | 2019NIPS论文 | NeurIPS2019最新更新论文~持续更新| NIPS2019百度云下载
热门推荐
中科院AI算法工程师的博客
09-04 2万+
论文下载百度云链接：链接：https://pan.baidu.com/s/100OAXTIOTPoMjbi-dwOcxA 提取码：请关注【计算机视觉联盟】微信公众号，回复：NIPS2019 今天更新到2019年10月11号 目录 今天更新到2019年9月4号 Understanding the Representation Power of Graph Neural Networks i...
NIPS2019 | 2019NIPS论文 | NeurIPS2019最新更新论文~持续更新| NIPS2019百度云下载
王博（Kings）的博客
09-04 2万+
论文下载百度云链接：链接：https://pan.baidu.com/s/100OAXTIOTPoMjbi-dwOcxA 提取码：请关注【计算机视觉联盟】微信公众号，回复：NIPS2019 今天更新到2019年9月6号 目录 今天更新到2019年9月4号 Understanding the Representation Power of Graph Neural Networks in ...
（十：2020.08.28）CVPR 2018 追踪之论文纲要（译）
Jojo论文基地
08-28 7180
CVPR 2018 追踪之论文纲要（修正于2020.08.28）讲在前面论文目录 讲在前面 论坛很多博客都对论文做了总结和分类，但就医学领域而言，对这些论文的筛选信息显然需要更加精细的把控，所以自己对这979篇的论文做一个大致从名称上的筛选，希望能找到些能解决当前问题的答案。 论文链接建议直接Google论文名，比去各种论文或顶会网站找不知道快捷多少。 下面皆为机器翻译以方便我第一次筛选，我会慢慢修正，但现在请结合。有兴趣的可以问我要处理这些论文并自动翻译的脚本。 Respect！ 论文目录
Machine Learning for Wireless Networks
05-11
Next-generation wireless...In a nutshell, this article constitutes one of the first holistic tutorials on the development of machine learning techniques tailored to the needs of future wireless networks.
一起对话式学习-机器学习02——机器学习方法三要素
weixin_73074505的博客
09-16 1222
机器学习方法=模型+策略+算法 可以理解为：机器学习模型在一定优化策略下使用相应求解算法来达到最优化目标。
【第十二周】李宏毅机器学习笔记10：生成式对抗网络2
qq_30043925的博客
09-15 602
本周主要学习了上周关于生成式对抗网络的剩余知识，了解了为什么 GAN 难以训练。此外，还学习了如何去评估 GAN 的性能以及在训练 GAN 过程中比较容易遇到的问题。最后还学习了条件生成对抗网络以及如何实现在非配对数据中学习。生成对抗网络（GANs）虽然强大且具有广泛应用潜力，但由于其独特的架构和训练方式，存在一些挑战使其训练变得困难。
物理学基础精解【7】
最新发布
理论物理与应用物理之家
09-22 804
它表示两点之间的直线距离，即连接这两点的线段的长度。在n维空间中，点之间的距离的计算与二维或三维空间中的计算类似，但涉及更多的坐标轴。注意，数量积的结果是一个标量，而不是向量。在n维空间中，无论n的值是多少，距离的计算都遵循上述公式，只是需要考虑更多的坐标轴。上面的两种变换，先后顺序不影响最后结果，可以先旋转再平移，也可反过来，等等。数量积是两个向量之间的一种运算，其结果是一个标量（实数）。这个公式来源于勾股定理，即将两点间的线段视为直角三角形的斜边，而。向量减法可以看作是加上一个向量的相反向量。
【machine learning-九-梯度下降】
zishuijing_dd的博客
09-15 470
梯度下降算法就是解决解决这个问题的，它不仅可以用于线性回归，还可以用于神经网络等深度学习算法，是目前的通用性算法。
cuda与机器学习
2303_77224751的博客
09-19 1731
CUDA是由NVIDIA开发的并行计算平台和编程模型，允许开发者利用支持CUDA的NVIDIA GPU来加速计算密集型任务。CUDA提供了扩展的C/C++语言，以及用于在GPU上执行并行计算的API。线程线程块线程的集合：线程块是多个线程的集合，组成一个可在 GPU 上执行的基本调度单元。线程块索引：通过 、、 获取线程块的索引。线程块大小：通过 、、 获取线程块的维度大小。全局线程索引：结合线程块索引和线程索引，可以计算线程在整个网格中的全局索引。 网格 线程块的集合：网格是线程块的集合，用于组
【machine learning-十-grading descent梯度下降实现】
zishuijing_dd的博客
09-16 539
grading descent 算法就是更新参数，今天来学习下如何更新w和b。
机器学习-梯度下降实验一
yangfreeyyds的博客
09-16 356
【代码】机器学习-梯度下降实验一。
Accurate 3D Face Reconstruction from a Single Image: A Holistic Approach主要内容
07-15
《Accurate 3D Face Reconstruction from a Single Image: A Holistic Approach》这篇论文的主要内容是介绍了一种基于单个图像的准确三维人脸重建方法，其采用了一种全面的方法来捕捉人脸的几何形状和纹理信息。 论文的作者 Aaron S. Jackson, Adrian Bulat, Vasileios Argyriou, Georgios Tzimiropoulos 提出了一个由两个主要组件组成的框架：3DMM（3D Morphable Model）回归器和姿态估计器。 首先，他们使用3DMM回归器来估计人脸的形状参数和纹理参数。这个回归器通过将人脸图像映射到3DMM参数空间，利用深度卷积神经网络（CNN）来预测人脸的三维形状和纹理参数。 然后，他们提出了一种姿态估计器来估计人脸的姿态参数。这个姿态估计器使用CNN来预测人脸的旋转和平移参数，以校正人脸的姿态。 最后，通过将形状参数、纹理参数和姿态参数结合起来，他们可以生成准确的三维人脸重建结果。 该方法在多个数据集上进行了实验评估，结果表明，与其他基准方法相比，该方法能够产生更准确和逼真的三维人脸重建结果。此外，该方法还具有一定的鲁棒性，对于具有不同姿态和光照条件的人脸图像也能取得良好的效果。 总的来说，《Accurate 3D Face Reconstruction from a Single Image: A Holistic Approach》这篇论文提出了一种综合性的方法，通过结合形状参数、纹理参数和姿态参数，实现了准确的三维人脸重建。这个方法在单个图像上能够生成高质量的三维人脸模型，对于人脸分析、虚拟现实等应用具有重要意义。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值