开发能够抵御ICS对抗性攻击的边缘弹性机器学习集成

神一样的老师

于 2024-10-04 07:27:36 发布

阅读量273

点赞数 4

分类专栏：论文阅读分享文章标签：机器学习人工智能

本文链接：https://blog.csdn.net/bit_mike/article/details/142694765

版权

论文阅读分享专栏收录该内容

73 篇文章 0 订阅

订阅专栏

论文标题：《Development of an Edge Resilient ML Ensemble to Tolerate ICS Adversarial Attacks》

作者信息：

Likai Yao, NSF Center for Cloud and Autonomic Computing, University of Arizona, Tucson, AZ 85721 USA
Qinxuan Shi, School of Electrical Engineering and Computer Science, University of North Dakota, Grand Forks, ND 58202 USA
Zhanglong Yang, School of Electrical Engineering and Computer Science, University of North Dakota, Grand Forks, ND 58202 USA
Sicong Shao, School of Electrical Engineering and Computer Science, University of North Dakota, Grand Forks, ND 58202 USA
Salim Hariri, NSF Center for Cloud and Autonomic Computing, University of Arizona, Tucson, AZ 85721 USA

论文出处：可以在arXiv上找到，DOI为2409.18244v1，日期为2024年9月26日。

主要内容概述：

摘要：文章提出了一种在工业控制系统（ICS）中部署机器学习（ML）的动态数据驱动应用系统（DDDAS）的方法，以提高安全性。然而，基于ML的DDDAS容易受到对抗性攻击的影响，因为攻击者可以稍微改变输入数据，使ML模型预测出不同的结果。本文的目标是构建一种能够通过执行数据空气间隙转换（DAGT）来匿名化数据特征空间，并使用深度神经网络和随机化用于预测的ML模型，从而设计出能够抵御对抗性攻击的弹性边缘机器学习（reML）架构。reML基于弹性DDDAS范式、移动目标防御（MTD）理论和TinyML，应用于对抗ICS上的对抗性攻击。此外，所提出的方法在功耗效率和隐私保护方面具有优势，因此可以部署在电源受限的设备上以增强ICS的安全性。这种方法通过将计算从计算密集型平台转移到资源受限的边缘设备，实现了边缘的弹性ML推理。TinyML与TensorFlow Lite的结合确保了高效的资源利用，使reML适合在各种工业控制环境中部署。reML的动态性，由弹性DDDAS开发环境促进，允许对新出现的威胁进行持续的适应和改进。最后，作者在ICS数据集上评估了他们的方法，并证明了reML为边缘设备上的弹性ML推理提供了一种可行且有效的解决方案。

1. 引言：介绍了ICS与更广泛的设备网络集成的快速发展如何显著提高了关键基础设施（如电网、制造工厂和水处理设施）的运营效率，但这也引入了显著的网络安全风险。文章讨论了在ICS中部署ML的潜在好处和挑战，以及如何通过在边缘设备上运行ML推理来减少延迟并提高性能和弹性。

2. 相关工作：简要介绍了DDDAS和MTD的相关研究。DDDAS通过动态数据反馈控制循环，整合了应用系统的计算和仪表方面。MTD则通过动态改变系统配置来增加攻击者的不确定性和复杂性。

3. 提出的方法：提出了一种基于MTD、TinyML和DDDAS的reML方法来对抗对抗性攻击。首先，使用弹性DDDAS（rDDDAS）开发环境设计reML，以便在边缘设备上部署和推理。然后，描述了reML的架构。接着，讨论了DAGT的过程。

4. 实验结果：使用密西西比州立大学和橡树岭国家实验室开发的ICS数据集进行实验，这些数据集实现了电力系统的缩小版本。数据集包括来自电力系统的良性和恶意数据点。使用基于Jacobian的Saliency Map Attack（JSMA）生成对抗性测试样本。实验结果表明，reML在检测和减轻对抗性威胁方面是有效的，同时在资源受限的边缘设备上保持了低延迟和功耗效率的操作。

5. 结论：本文提出了一种旨在保护工业控制系统（ICS）免受对抗性攻击的弹性边缘机器学习（reML）架构。通过利用DDDAS范式、MTD理论和TinyML框架，reML通过DAGT和模型随机化展示了强大的防御机制。实验结果验证了reML在检测和减轻对抗性威胁方面的有效性，同时在资源受限的边缘设备上保持了低延迟和功耗效率的操作。reML架构的设备上攻击检测和本地ML推理能力显著提高了ICS的安全性，减少了响应时间并保留了数据隐私。