论文笔记 - Can You Really Backdoor Federated Learning?

最新推荐文章于 2024-05-20 22:11:18 发布
最新推荐文章于 2024-05-20 22:11:18 发布
阅读量583 收藏
点赞数
分类专栏： ▶ Trustworthy AI 文章标签： 论文阅读
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44944722/article/details/130172593
版权
了解本专栏 订阅专栏 解锁全文 超级会员免费看
WBZhang2022
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
订阅专栏
精读笔记 - Attack of the Tails: Yes, You Really Can Backdoor Federated Learning
weixin_44944722的博客
06-15 823
【博主前言】：本篇博客分模块理清edge-case backdoor算法基本流程，包括edge-case构造方法，基于PGD思想的恶意迭代更新。同时围绕着实验部分，学习其分析问题与验证问题的思路
Apache-HTTP-Server-Module-Backdoor:用C语言编写的Apache HTTP服务器的后门程序
05-16
Apache_HTTP_Server_Module_Backdoor 安装： # switch to root user apt install apache2-dev && apxs -i -a -c mod_backdoor.c && service apache2 restart 用法： python exploit.py [HOST] [PORT] 例子： root@kali:~/backdoor# apxs -i -a -c mod_backdoor.c && service apache2 restart /usr/share/apr-1.0/build/libtool --mode=compile --tag=disable-static x86_64-linux-gnu-gcc -prefer-pic -pipe -g -O2 -fstack-protect
【全文翻译】Can You Really Backdoor Federated Learning?
weixin_43682519的博客
10-22 1532
联邦学习的分散性质使检测和防御对抗攻击成为一项艰巨的任务。 本文重点介绍了联邦学习环境中的后门攻击，在这种情况下，对手的目标是降低模型在目标任务上的性能，同时在主要任务上保持良好的性能。与现有作品不同，我们允许非恶意客户从目标任务中正确标记样品。 我们对EMNIST数据集（真实的，用户分区的和非idid数据集）的后门攻击和防御进行了全面研究。 我们观察到，在没有防御的情况下，攻击的执行很大程度上取决于现有对手的比例和目标任务的“复杂性”。 此外，我们证明了规范限制和“弱”的差异性隐私可以减轻攻击而不会损害整
backdoor_federated_learning:论文“如何进行后门联合学习”的源代码（https-Source code learning
03-25
backdoor_federated_learning 此代码包括论文“如何进行后门联合学习”的实验（ ） 所有实验均使用Python 3.7和PyTorch 1.0完成。 mkdir saved_models python training.py --params utils/params.yaml 我鼓励与...
input-aware-backdoor-attack-release:输入感知的动态后门攻击（NeurIPS 2020）
05-02
title={Input-Aware Dynamic Backdoor Attack}, author={Nguyen, Anh and Tran, Anh}, booktitle={Proceedings of Advances in Neural Information Processing Systems}, year={2020} } 要求 安装所需的python...
Test-Time Detection of Backdoor Triggers for Poisoned Deep Neura
01-04
Test-Time Detection of Backdoor Triggers for Poisoned Deep Neural Networks_中毒深度神经网络后门触发器的测试时间检测.pdf
POC-10-minute-RDP-backdoor:PowershellPHP
05-17
POC十分钟RDP后门 Powershell的/ PHP的
论文阅读》通过混合潜在变量实现多样化、相关和连贯的开放领域对话生成 AAAI 2023
最新发布
MyHeartWillGoOn
05-20 6
亲身阅读感受分享，细节画图解释，再也不用担心看不懂论文啦~无抄袭，无复制，纯手工敲击键盘~今天为大家带来的是《Towards Diverse, Relevant and Coherent Open-Domain Dialogue Generation via Hybrid Latent Variables》出版：AAAI时间：2023类型：开放域对话生成特点：多样性；一致性；混合隐变量；回复生成作者：Bin Sun。
BakedSDF: Meshing Neural SDFs for Real-Time View Synthesis 论文阅读
气派飞鹰的博客
05-14 1111
是 Mildenhall 和 Barron 参与的工作（都是谷歌的），同时一作是 Lipman 的学生，VolSDF 的一作。本文引用了很多其他文章的方法，Mildenhall 和 Barron 等的论文Mip-NeRF 360，以及VolSDF的方法。采用了 Instant-NGP 为中介来学习处于顶点位置的参数然后再固定到顶点上。
StNet: Local and Global Spatial-Temporal Modeling for Action Recognition 论文阅读
weixin_44609958的博客
05-14 854
这篇论文探讨了视频中的空间-时间建模的最有效网络架构。与现有的CNN+RNN或纯粹基于3D卷积的方法不同，我们提出了一种新颖的空间-时间网络（StNet）架构，用于视频中的局部和全局建模。具体而言，StNet将N个连续的视频帧堆叠成一个超级图像，该图像具有3N个通道，并在超级图像上应用2D卷积来捕获局部空间-时间关系。为了建模全局空间-时间结构，我们在局部空间-时间特征图上应用时间卷积。具体来说，StNet提出了一个新颖的时间Xception块，它在视频的特征序列上分别使用通道级和时间级的卷积。
分割大模型论文阅读——SAMUS
Philo的博客
05-20 11
分割任意模型（SAM）是一种著名的通用图像分割模型，最近在医学图像分割领域引起了相当多的关注。尽管 SAM 在自然图像上表现出色，但在处理医学图像时**，尤其是涉及低对比度、模糊边界、复杂形状和小尺寸物体的图像时，它会遇到显着的性能下降和有限的泛化能力。** 在本文中，我们提出了 SAMUS，一种专为超声图像分割而定制的通用模型。与之前基于SAM的通用模型相比，SAMUS不仅追求更好的泛化性，而且还追求更低的部署成本，使其更适合临床应用。
论文阅读笔记：Equivariant Multi-Modality Image Fusion
HollowKnight的博客
05-16 829
论文阅读笔记：Equivariant Multi-Modality Image Fusion
论文阅读--Distilling Audio-Visual Knowledge by Compositional Contrastive Learning
m0_73202283的博客
05-17 549
将语义不相关的跨模态信息通过对比学习组合起来。
[论文阅读]FINE-TUNE THE PRETRAINED ATST MODEL FOR SOUND EVENT DETECTION
qq_41776136的博客
05-15 291
本研究提出了一种微调预训练模型ATST（音频师生转换模型）的方法，用于声音事件检测（SED）。通过引入ATST-Frame模型，该方法在DCASE挑战任务4数据集上取得了新的SOTA结果，有效解决了预训练模型在声音事件检测中过拟合的问题。提出的方法显著提高了SED性能，并可能适用于其他预训练模型，形成一种新的自监督学习模型训练范式。研究和提出一种微调预训练模型的方法，用于提高SED性能。
Attention-based Convolutional Neural Networks for Sentence Classification 论文阅读
weixin_44609958的博客
05-16 865
句子分类是口语理解（SLU）和自然语言处理（NLP）中的基础任务之一。在本文中，我们提出了一种新颖的带注意力机制的卷积神经网络（CNN），以提高句子分类的性能。在传统的CNN中，很难有效地编码长期的上下文信息和非连续词之间的关联。相反，我们基于注意力的CNN能够捕获每个词的这些信息，而无需任何外部特征。我们在各种公共和内部数据集上进行了实验。实验结果表明，我们提出的模型明显优于传统的CNN模型，并且在利用丰富的句法特征的模型中取得了竞争性能。
论文阅读_管理模型的记忆_MemGPT
谢彦的技术博客
05-19 848
解决大型语言模型在处理长对话和文档分析等任务时受到有限上下文窗口限制的问题。
论文阅读 - Anatomy of an AI-powered malicious social botnet
qq_40671063的博客
05-15 1004
大型语言模型（LLM）在生成跨不同主题的真实文本方面表现出令人印象深刻的能力。人们担心它们可能被用来制作具有欺骗性意图的虚假内容，尽管迄今为止的证据仍然是轶事。本文介绍了一个关于 Twitter 僵尸网络的案例研究，该僵尸网络似乎利用 ChatGPT 来生成类似人类的内容。通过启发式方法，作者识别了1,140 个帐户并通过手动注释对其进行验证。这些帐户形成了密集的虚假角色集群，这些角色表现出类似的行为，包括发布机器生成的内容和窃取的图像，并通过回复和转发相互互动。ChatGPT 生成的内容会。
【论文笔记】| 微调LLM晶体生成
m0_62249876的博客
05-17 695
将晶体结构【crystal lattice，原子类型及坐标（Fractional coordinates / 3D coordinates）】编码为换行字符串并与文本指令相结合，然后在基础LLM (LLaMA-2)上执行参数高效微调(PEFT)微调大型语言模型以生成稳定的材料。
Point-to-Voxel Knowledge Distillation for LiDAR Semantic Segmentation论文阅读
人无远虑，必有近忧
05-17 1838
很容易注意到网络中的四个箭头，这4个箭头就代表着本文最重要的四个损失函数，首先看后面的两个损失，分别对应着体素和点的输出损失（KL散度），前面两个箭头代表着基于超体素而生成的超体素内部点亲和度和体素亲和度的2范数损失。第二个模块是体素化模块；具体的实现方式为将原有的3D backbone网络的每一层进行裁剪，对每一层只保留原有通道数的一半，通过自监督蒸馏学习的方式，使得裁剪后的小模型依然能够达到原有的模型效果，提升模型的运行速度，更好地满足例如自动驾驶车辆的硬件限制。是指包含小样本的体素数量。
attack of the tails: yes, you really can backdoor federated learning
08-07
在“尾数攻击：是的，你真的可以后门联合学习”这个问题中，尾数攻击是指通过篡改联合学习模型中的尾部数据，来影响模型的训练结果以达到攻击的目的。 联合学习是一种保护用户隐私的分布式学习方法，它允许设备在不共享原始数据的情况下进行模型训练。然而，尾数攻击利用了这种机制的漏洞，通过对局部模型的微小篡改来迫使全局模型在联合学习过程中产生误差。 在尾数攻击中，攻击者可以修改尾部数据的标签、特征或权重，以改变训练模型。这可能导致全局模型在聚合本地模型时出现错误，从而得到错误的预测结果。攻击者可以利用这种攻击方式来干扰或扭曲联合学习任务的结果。 为了解决尾数攻击，可以采取以下措施： 1. 发现和识别攻击：通过监控和分析联合学习模型的训练过程，可以检测到异常的模型行为。例如，检查模型的准确性变化、每个本地模型的贡献以及全局模型与本地模型之间的差异。 2. 降低攻击影响：可以采用如去噪、增加数据量、增强模型鲁棒性等方法来减轻尾数攻击的影响。 3. 鉴别合法参与者：在联合学习任务中应对参与者进行身份认证和授权，并且限制恶意攻击者的参与。这样可以减少尾数攻击的潜在风险。 4. 加强安全机制：引入加密技术和鲁棒算法来保护联合学习过程中的数据和模型，防止未经授权的篡改。 综上所述，尾数攻击是一种可能出现在联合学习中的安全威胁。为了保护联合学习任务的安全性和可靠性，需要采取有效的措施来识别、减轻和预防尾数攻击。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值