READ-2311 Mitigating the Backdoor Attack by Federated Filters for Industrial IoT Applications

最新推荐文章于 2024-09-14 21:10:44 发布
最新推荐文章于 2024-09-14 21:10:44 发布
阅读量116 收藏
点赞数
分类专栏： FL Security 文章标签： 安全
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_51638853/article/details/129290704
版权
该论文提出了联邦后门过滤防御策略，通过在服务器端训练多种后门过滤器，结合XAI模型识别并恢复被后门攻击的物联网数据。在客户端，使用模糊标签反转策略清除后门影响，确保模型的正常运行。这种方法特别适用于带宽有限的IIoT环境。
摘要由CSDN通过智能技术生成

READ-2311 Mitigating the Backdoor Attack by Federated Filters for Industrial IoT Applications

论文名称Mitigating the Backdoor Attack by Federated Filters for Industrial IoT Applications
作者Boyu Hou; Jiqiang Gao; Xiaojie Guo; Thar Baker; Ying Zhang; Yanlong Wen; Zheli Liu
来源IEEE T IND INFORM 2021
领域Machine Learning - Federal learning - Security - Backdoor attack
问题针对single-shot攻击，随着联邦过程毒性会被自然的削弱，但是由于IIoT应用受带宽或通信原因，很难重新训练模型或下载最新的全局模型，因此难以削弱攻击的影响
方法提出联邦后门过滤防御，在服务器上用不同的XAI模型和分类器组合，训练多个后门过滤器，并随机发送给客户端，以识别后门输入并用blur-labelfipping策略恢复中毒数据的可用性
创新使用XAI模型训练过滤器

阅读记录

一、基本概念
  1. XAI方法
    （１）作用：用于解释模型的结果，以帮助研究人员判断模型是否学习到了正确的特征
    （２）类型
    ①基于BP：通过模型的反向传播来计算显著性图
    ②从模型的卷积层计算显著性
  2. 后门攻击：通过对模型进行缩放，恶意模型可以直接替代全局模型
    在这里插入图片描述
二、攻击模型

1.攻击形式 ：scaling attack + backdoor attack
2.攻击能力：恶意客户端拥有模型的全部知识，可以完全控制本地数据和训练过程，但不可以控制良性客户端

三、基于卷积核防御的总框架

在这里插入图片描述
防御包括服务器和客户端两部分：

  1. 服务器端
    服务器有三个模块：
    （1）攻击库
    收集已发现的后门样式、大小、位置、相关任务等攻击信息。但为了体现后门过滤器的高效性，本文只记录后门的大小
    （2）过滤器库
    使用不同的分类模型，将已发现的后门作为输入，训练多个过滤器，并存储于过滤器库
    （3）XAI模型库
    收集不同的XAI模型
  2. 客户端
    （1）部件：每个客户端都有本地模型、从服务器接收的后门过滤器、保存可疑输入的缓冲区、清除后门的去触发器工具
    （2）blur-label-flipping策略
    ①将数据和模型的预测结果输入后门过滤器。若过滤器认为输入数据为可疑的后门数据，将可疑数据和预测向量存储到缓冲区
    ②去触发器工具通过模糊后门消除后门的影响
    ③将去除后门的数据输入模型，获得最后的结果
  3. 交互
    （1）为防止攻击者攻击过滤器，对于每个客户端，服务器随机选择一个过滤器和XAI模型，建立后门过滤器，并发送给客户端
    （2）客户端使用收到的后门过滤器检测异常输入，并训练模型
四、后门过滤器
  1. 组件：后门过滤器包括由服务器训练的后门分类器和由XAI方法实现的后门检测器
  2. 目标：判断输入是否存在木马
  3. 不使用深度学习方法分辨中毒数据的原因
    （1）后门难以发现
    （2）即使模型可以识别木马，基于复杂深度学习模型的过滤器会增加通信开销和存储开销
  4. 方法：使用简单的机器学习模型
    ①在XAI模型的帮助下检测输入图像的重要特征：将恶意模型、原始数据集、模型预测向量作为输入，输出热图
    ②设置阈值，从热图中选择最重要的特征：记录每个特征的大小，可疑特征的标记为1，正常特征标记为0，形成数据集D_info
    ③用D_info训练后门分类器，调整阈值
    ④将后门分类器作为后门过滤器随机发给客户端
  5. 代码
    在这里插入图片描述
  • Line 8 – 12：遍历热图，对于每一个重要特征，如果该像素值超过阈值，则后门大小加1
五、模糊标签反转策略
  1. 组件：木马检测、木马清理、标签翻转
  2. 目标：即使存在后门，良性客户端也可以正常使用模型
  3. 过程
    ①将图像输入本地模型，得到分类结果
    ②将本地模型、原始图像、分类结果输入XAI模型，输出热图并判断重要特征
    ③后门分类器将原始图像的重要特征大小作为输入，判断该图像是否存在后门
    ④若判断图像中存在后门，则将图像输入后门模糊模块：由于后门作为图像重要特征的一部分，因此提取重要特征对应的原始图像，后门模糊模块利用木马周围像素的均值清晰木马
    ⑤将清理过的图像重新输入本地模型，若输出标签与原始标签相同，则模型选择第二大可能的class
  4. 代码
    在这里插入图片描述

总结

与已阅读的论文不同，本文以后处理的方式，对模型的推理结果进行矫正，而非在训练过程中预防恶意攻击者，更符合IIoT实际的工业需求。
对于服务器部分，文中没有说明服务器如何利用阈值选取最重要的特征并进行分类，不知道作者是不是通过无监督的方式对选出来的重要特征打标签

VivienneLuo
关注
专栏目录
2019-scalingattack:图像缩放攻击和防御
03-20
图像缩放攻击与防御 该存储库属于我们的出版物： Erwin Quiring，David Klein，Daniel Arp，Martin Johns和Konrad Rieck。对抗预处理：了解和防止机器学习中的图像缩放攻击。程序。 2020年USENIX安全研讨会。 背景 有关此主题的最新介绍和最新作品，请访问我们的。 简而言之，图像缩放攻击使对手能够操纵图像，从而使其在缩小后可以更改其外观/内容。具体而言，攻击通过稍微干扰源图像S来生成图像A，以使其缩放版本D与目标图像T匹配。此过程在上图中进行了说明。 入门 该存储库包含攻击和防御的主要代码。它具有简单的API，可轻松用于自己的项目。整个项目由python代码（和一些cython附加项）组成。 安装 简而言之，您只需要执行以下步骤（假设您有Anaconda）。 获取存储库： git clone https://github.com/E
Towards a SDN-Based Integrated Architecture for Mitigating IP Spoofing Attack
02-08
Towards a SDN-Based Integrated Architecture for Mitigating IP Spoofing Attack
DeepSight: Mitigating Backdoor Attacks in Federated Learning Through Deep Model Inspection论文阅读报告
mental的博客
11-04 987
联邦学习（FL）允许多个客户在其私有数据上协作训练神经网络（NN）模型，而不会泄露数据。最近，针对FL的几起针对性中毒袭击事件已经出台。这些攻击为生成的模型注入了后门，使得对手控制的输入被错误分类。现有的反后门攻击的对策效率低下，通常只是为了将偏离模型排除在聚合之外。然而，这种方法还删除了具有偏差数据分布的客户机的良性模型，从而导致聚合模型对此类客户机的性能不佳。为了解决这个问题，我们提出了DeepSight，一种用于缓解后门攻击的新型模型过滤方法。
机器学习和统计学中常见的距离和相似度度量
java、c++、机器学习方向King
06-12 2313
https://zhuanlan.zhihu.com/p/27305237?utm_source=tuicool&utm_medium=referral 常见距离与相似度度量 欧氏距离 定义在两个向量（两个点）上：点和点的欧氏距离为： 闵可夫斯基距离 Minkowski distance， 两个向量（点）的阶距离： 当时就是曼哈顿距离，当时就是欧
后门防御阅读笔记，Neural Cleanse Identifying and Mitigating Backdoor Attacks in Neural Networks
weixin_43999137的博客
10-18 2216
论文标题：Neural Cleanse Identifying and Mitigating Backdoor Attacks in Neural Networks 论文单位：UC Santa Barbara,University of Chicago 论文作者：Bolun Wang, Yuanshun Yao,Shawn Shan 收录会议：2019 IEEE Symposium on Security and Privacy (S&P) 开源代码：https://github.com/bolun
联邦学习后门攻击总结（2019-2022）
热门推荐
124974的博客
03-25 1万+
联邦学习后门攻击总结（2019-2022） 联邦学习安全性问题框架概览 下表和下图为联邦学习中常见的安全性问题，本文重点关注模型鲁棒性问题中的后门攻击问题。 攻击手段 安全性问题 攻击方与被攻击方 攻击点 攻击目的 拜占庭攻击 模型鲁棒性 恶意客户端攻击服务器 针对训练数据或针对局部模型投毒 无目标攻击，影响全局模型性能 后门攻击 模型鲁棒性 恶意客户端攻击服务器 针对训练数据或针对局部模型投毒 影响目标子任务的性能 推理攻击 隐私保护 恶意服务器或恶意客户端攻击客户端 针对客户端参
【论文阅读笔记】Mitigating the Backdoor Attack by Federated Filters for Industrial IoT Applications
小白的博客
09-24 101
若判断图像中存在后门，则将图像输入后门模糊模块：由于后门作为图像重要特征的一部分，因此提取重要特征对应的原始图像，后门模糊模块利用木马周围像素的均值清晰木马。来规避后门影响，基于修剪的方法都需要一个标准模型来确定是否存在后门，这对于联邦学习场景过于复杂，客户端难以在本地实现，服务器也很难决定如何修剪神经元。5-6 在XAI模型的帮助下，将恶意模型Ga��，原始数据xa��​，模型预测向量ŷ �^作为输入，输出热图。13-16 可疑特征的标记为1，正常特征标记为0，形成数据集Dtrain������。
【论文合集】Awesome Backdoor Learning
m0_61899108的博客
05-19 2647
关于后门攻击&防御的博客与论文。
【4/26-4/30】 Arxiv安全类文章速览
至臻求学，胸怀云月
05-02 1301
Arxiv安全文章速览
CCF A类会议或期刊----近两年联邦学习相关论文
Thincor的博客
03-24 4271
会议/期刊 论文 neurips2020 Lower Bounds and Optimal Algorithms for Personalized Federated Learning. neurips2020 Ensemble Distillation for Robust Model Fusion in Federated Learning. neurips2020 Personalized Federated Learning with Theoretical Guarante....
Mitigating GPU Memory Divergence for Data-Intensive Applications PhD
06-18
本文主要探讨了在数据密集型应用程序中减轻GPU内存发散（Memory Divergence）问题的策略，并涉及了针对该问题的架构支持和软件技术。作者Bin Wang在论文中深入分析了GPU（图形处理单元）的内存架构和执行模型，并...
Mitigating the Risk of Software Vulnerabilities by Adopting
06-19
《采用安全软件开发框架缓解软件漏洞风险》 在信息技术领域，软件漏洞是导致网络安全问题的主要原因之一。为了降低这些风险，采用安全软件开发框架（Secure Software Development Framework，简称SSDF）显得至关...
1.3 kW monolithic linearly polarized single-mode master oscillator power amplifier and strategies for mitigating mode instabilities
02-23
We report on the high-power amplification of a 1064 nm linearly polarized laser in an all-fiber polarizationmaintained master oscillator power amplifier, which can operate at an output power level of ...
时间&安全精细化管理平台存在未授权访问漏洞
2301_77012231的博客
09-14 157
登录--时间&安全精细化管理平台存在未授权访问漏洞导致与员工信息泄露。
注册安全分析报告：熊猫频道
Explinks的博客
09-10 613
熊猫频道作为央视的子频道， 采用的还是老一代的图形验证码已经落伍了， 用户体验一般，容易被破解， 一旦被国际黑客发起攻击，将会对老百姓形成骚扰，影响声誉。很多人在短信服务刚开始建设的阶段，可能不会在安全方面考虑太多，理由有很多。比如：“需求这么赶，当然是先实现功能啊”，“业务量很小啦，系统就这么点人用，不怕的” ， “我们怎么会被盯上呢，不可能的”等等。有一些理由虽然有道理，但是该来的总是会来的。前期欠下来的债，总是要还的。越早还，问题就越小，损失就越低。
SSHamble：一款针对SSH技术安全的研究与分析工具
FreeBuf_的博客
09-11 963
SSHamble是一款功能强大的SSH技术安全分析与研究工具，该工具基于Go语言开发，可以帮助广大研究人员更好地分析SSH相关的安全技术与缺陷问题。
3.比 HTTP 更安全的 HTTPS（工作原理理解、非对称加密理解、证书理解）
weixin_52173250的博客
09-07 1554
HTTPS（Hypertext Transfer Protocol Secure）是一种安全的超文本传输协议，主要用于在客户端和服务器之间安全地传输数据
Java代码审计篇 | ofcms系统审计思路讲解 - 篇4 | XXE漏洞审计
最新发布
哦 卷！
09-14 396
我发现很多文章包括教程，大概套路是：只说有漏洞的点，将有漏洞的点指出，然后分析代码；或者黑盒测试出漏洞之后，然后分析代码。我认为这是在分析漏洞代码，而非代码审计。代码审计文章或教程应该是从0开始找到漏洞所在，包括思路！所以这里不管有没有漏洞，我都会把审计过程写出来，因此篇幅会很长，但我认为这样对你会很有帮助。知其然亦知所以然。XXE漏洞审计Java代码审计篇 | ofcms系统审计思路讲解 - 篇1 | 环境搭建、路由机制。
Adaptive Normalized Risk-Averting Training for Deep Neural Networks
04-01
ANRAT achieves this by introducing a penalty term into the loss function that penalizes the model for making risky predictions. The penalty term is based on the normalized risk, which is a measure of ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值