论文笔记 - Poisoning and Backdooring contrastive learning

最新推荐文章于 2024-06-02 22:00:10 发布
最新推荐文章于 2024-06-02 22:00:10 发布
阅读量520 收藏
点赞数
分类专栏： ▶ Trustworthy AI 文章标签： 论文阅读
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44944722/article/details/127439132
版权
了解本专栏 订阅专栏 解锁全文 超级会员免费看
WBZhang2022
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
订阅专栏
联邦学习数据投毒 - Data Poisoning Attacks Against Federated Learning Systems
weixin_44944722的博客
04-14 1053
【博主前言】：本篇博客是联邦学习数据投毒的经典文章，这篇文章虽然发表在一个不是很出名的会议上，但是这篇文章是How to Backdoor Federated Learning中语义后门的一个思想启蒙。精读这篇文章是充分理解联邦学习投毒/后门攻击相关参数调节细节的具体操作过程
人工智能matlabmnist代码-Poisoning-Attacks-with-Back-gradient-Optimization:论文“
05-26
人工智能matlab mnist代码通过反向梯度优化实现中毒攻击 Matlab代码以及该论文中描述的中毒攻击示例该代码包括针对Adaline，Logistic回归和针对MNIST数据集的小型多层感知器的攻击（使用数字1和7）。 用 要生成随机训练/验证拆分，请首先在“ MNIST_splits”文件夹中运行脚本createSplits.m 。 然后，用于对Adaline，逻辑回归和MLP进行攻击的脚本分别是testAttackAdalineMNIST.m ， testAttackLRmnist.m和testAttackMLPmnist.m 。 引文 如果您将此存储库中的代码用作已发布的研究项目的一部分，请引用本文。 @inproceedings{munoz2017towards, title={{Towards Poisoning of Deep Learning Algorithms with Back-gradient Optimization}}, author={Mu{\~n}oz-Gonz{\'a}lez, Luis and Biggio, Battista and Demo
Child-Nicotine-Poisoning-Prevention-Act-of-2015.zip
09-30
Child-Nicotine-Poisoning-Prevention-Act-of-2015.zip
matlab对比实验代码-data-poisoning-release:数据中毒释放
05-22
matlab对比实验代码数据中毒攻击的认证防御 该代码复制了以下论文的实验： 雅各布·斯坦哈特，庞伟哥和梁佩茜 NIPS 2017。 我们在上具有这些脚本的可复制，可执行和Dockerized版本。 实验的数据集也可以在Codalab链接中找到。 依存关系： Numpy / Scipy / Scikit-learn / Pandas Tensorflow（在v1.1.0上测试） Keras（在v2.0.4上测试） Spacy（在v1.8.2上测试） h5py（在v2.7.0上测试） cvxpy（在0.4.9上测试） MATLAB / Gurobi Matplotlib / Seaborn（用于可视化） 具有这些依赖关系的Dockerfile（MATLAB除外）可以在这里找到： 在用户提供的数据上训练的机器学习系统容易受到数据中毒攻击，从而恶意用户注入虚假的训练数据，目的是破坏学习的模型。 尽管最近的工作提出了许多攻击和防御措施，但对于面对坚定的攻击者最坏情况的防御措施知之甚少。 对于首先执行异常值消除然后将经验风险最小化的防御者，我们通过在广泛的攻击家族中构建近似的损失上限来解决此问题
Embedding-Poisoning:论文代码“小心中毒的单词嵌入
03-30
嵌入中毒 论文代码请小心中毒的单词嵌入：探索NLP模型中嵌入层的漏洞（NAACL-HLT 2021） 当前的后门攻击方法要求攻击者可以获取干净的与任务相关的数据集以进行数据中毒。 当攻击者无法访问适当的数据集时，这可能是一个至关重要的限制，由于公司越来越重视数据隐私，因此在实践中可能经常发生这种情况。 在本文中，我们提出了一种仅修改一个单词嵌入向量就可以以无数据方式对NLP系统进行后门攻击的方法。 用法 要求 python> = 3.6 pytorch> = 1.7.0 我们的代码基于提供的代码，因此请首先安装transformers ： git clone https://github.com/huggingface/transformers.git cd transformers pip install -e . 然后将我们的代码放入transformers目录中。 准备数据
-Injection-Poisoning-Binary-Translation-Cache.pdf
11-17
AS-23-Koh-Dirty-Bin-Cache-A-New-Code-Injection-Poisoning-Binary-Translation-Cache
【论文阅读笔记】Local Model Poisoning Attacks to Byzantine-Robust Federated Learning
leticia_m的博客
06-14 1801
个人阅读笔记，如有错误欢迎指出！
Mitigating Sybils in Federated Learning Poisoning（FoolsGold）论文阅读笔记
m0_53662700的博客
01-12 639
在本文中，我们首先评估了联邦学习对sybil-base的中毒攻击的脆弱性。然后我们描述了FoolsGold，这是一种针对该问题的新颖防御方法，它基于分布式学习过程中客户端更新的多样性来识别中毒sybil。与以前的工作不同，我们的系统不限制预期的攻击者数量，不需要学习过程之外的辅助信息，并且对客户端及其数据做出更少的假设。在我们的评估中，我们表明FoolsGold超越了现有最先进的方法来对抗基于符号的标签翻转和后门中毒攻击的能力。我们的结果适用于不同的客户数据分布、不同的中毒目标和不同的攻击策略。
Blockchain-based Gradient Inversion and Poisoning Defense for Federated Learning(论文翻译)
banzixiang的博客
03-25 830
摘要：联邦学习已经成为一项有前景的隐私保护机器学习技术，使多个客户能够共同训练一个全局模型，而无需共享原始数据。随着联邦学习在物联网场景中的日益普及，对安全和隐私的担忧变得至关重要。特别是，梯度反转攻击和毒化攻击对全局模型的完整性和效果构成了重大威胁。为此，我们提出了一种基于区块链的全面防御机制，有效保护联邦学习系统免受此类攻击。我们采用了一种新颖的技术组合，包括公共区块链级别的保护和私有区块链级别的保护，二者协同工作，防止攻击者利用获得的梯度重构数据。这种独特的方法组合为联邦学习物联网场景中的梯度反转攻击
【NeurIPS 2023】Backdoor对抗攻防论文汇总
m0_61899108的博客
10-05 4715
2023年以及2022年的NeurIPS有关backdoor的对抗攻防的论文。
ICLR 2022的10篇论文推荐
数据派THU
05-17 829
来源：DeepHub IMBA 本文约4800字，建议阅读10+分钟 本文与你分享ICLR 2022的机器学习研究相关论文。一、Autoregressive Diffusion ModelsEmiel Hoogeboom, Alexey A. Gritsenko, Jasmijn Bastings, Ben Poole, Rianne van den Berg, Tim ...
投毒后门防御阅读笔记，What Doesn‘t Kill You Makes You Robust (er) Adversarial Training against Poisons and Back
weixin_43999137的博客
10-18 684
论文标题：What Doesn’t Kill You Makes You Robust (er) Adversarial Training against Poisons and Backdoors 论文单位：Department of Electrical Engineering and Computer Science,University of Siegen 论文作者：Jonas Geiping,Liam Fowl 收录会议：预印版 开源代码：未开源 那些杀不死你的东西会使你更健壮 抵御投毒和后门的对
《论文阅读》具有人格自适应注意的个性化对话生成 AAAI 2023
MyHeartWillGoOn
05-29 111
亲身阅读感受分享，细节画图解释，再也不用担心看不懂论文啦~无抄袭，无复制，纯手工敲击键盘~今天为大家带来的是《Personalized Dialogue Generation with Persona-Adaptive Attention》出版：AAAI时间：2023类型：个性化对话生成特点：个性化；多样性；回复生成；个性化适应性注意力作者：Qiushi Huang第一作者机构：University of Surrey。
[论文笔记]SELF-INSTRUCT
日积月累，天道酬勤
05-27 781
作者提出了SELF-INSTRUCT，一种通过利用预训练语言模型自我生成来改进模型遵循指令能力的框架。首先从语言模型中生成指令、输入和输出样本，然后过滤无效或相似的样本。最后微调原始模型。
PromptIR论文阅读笔记
read, note and comment papers
05-30 372
MZUAI和IIAI在NIPS2023上的一篇论文，用prompt来编码degradation，然后用来guide restoration network，使得模型能够泛化到不同degradation types and levels，也就是说是一个模型一次训练能够应对多种degradation的unified model。 文章分析，对每种degradation都要train一个模型是compute-intensive and tedious process, and oftentimes impra
论文笔记：Vision GNN: An Image is Worth Graph of Nodes
qq_40206371的博客
05-29 348
首次将图神经网络用于视觉任务，同时能取得很好的效果。
《论文阅读》通过顺序不敏感的表示正则化实现稳健的个性化对话生成 ACL 2023
最新发布
MyHeartWillGoOn
06-02 159
亲身阅读感受分享，细节画图解释，再也不用担心看不懂论文啦~无抄袭，无复制，纯手工敲击键盘~今天为大家带来的是《Towards Robust Personalized Dialogue Generation via Order-Insensitive Representation Regularization》出版：ACL时间：2023类型：个性化对话生成特点：个性化；回复生成；鲁棒性；表示正则化作者：Liang Chen。
【YOLOv10】2024年5月最新的YOLO系列模型Yolov10(论文阅读笔记) + 完整创新点说明 + 总结
静谧、淡雅
05-29 1059
2024年5月最新的YOLO系列模型Yolov10的论文阅读笔记
poisoning and backdooring contrastive learning.
01-16
对比学习是一种无监督学习方法，可以通过比较不同样本之间的相似性来学习有用的特征表示。然而，当对比学习面临中毒和后门问题时，其可靠性和安全性可能受到威胁。 中毒问题是指攻击者有意干扰对比学习过程，通过操纵训练数据，向模型注入有害样本或扰乱样本分布，从而导致模型学到错误的特征表示。攻击者可能会做出一些更改，使得恶意样本被错误地分类为正常样本，从而影响模型的性能和准确性。对于对比学习而言，中毒问题可能导致模型受到严重破坏，无法提供有用的特征表示。 后门问题是指攻击者利用对比学习模型的弱点，在模型中插入恶意后门，从而在特定条件下触发模型的恶意行为。后门可以是一些隐藏的规则、特定输入模式或触发事件，只有在满足这些条件时，模型才会展现出恶意行为。对于对比学习而言，后门问题可能会导致模型不可靠，攻击者可以通过触发后门来操纵模型的预测结果，造成严重的安全隐患。 为了解决中毒和后门问题，一些防御机制已经被提出。例如，数据审核和清洗可以用于检测和过滤中毒样本，以确保模型被训练在干净和合理的数据上。而对于后门问题，模型的验证和测试阶段需要对模型进行全面检查，以查找是否存在后门。此外，对比学习模型的设计需要考虑到对抗示例和恶意样本的鲁棒性，以提高模型的安全性。 总而言之，中毒和后门是对比学习中的两个关键问题，它们可能会对模型的可靠性和安全性造成威胁。通过合适的防御机制和模型设计，可以有效地应对这些问题，并提高对比学习的实用性和安全性。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值