随着针对机器学习(ML)系统的网络攻击的增加,Microsoft与MITER以及来自其他11个组织的贡献一起发布了Adversarial ML威胁矩阵。Adversarial ML威胁矩阵是一个开放的ATT&CK样式的框架,可帮助安全分析人员检测,响应和补救针对ML系统的威胁。
机器学习(ML)通常被视为人工智能(AI)的子集,它基于系统自动学习并从其经验中改进的能力。金融,医疗保健和国防等许多行业已经使用ML改变了他们的业务,并对全世界的人们产生了积极的影响。
但是,随着ML和AI的发展,Microsoft警告说,许多组织尚未跟上其ML系统的安全性。例如,在过去几年中,诸如Google,亚马逊,微软和特斯拉之类的科技巨头都是ML系统攻击的受害者。此外,根据Gartner的报告,到2022年,将有30%的网络攻击涉及数据中毒,模型盗窃或对抗性例子。
更糟的是,发给28个组织的一项调查显示,其中25个甚至都不知道如何保护机器学习系统。由于这些原因,Microsoft和MITER发布了新的对抗ML威胁矩阵,该框架“系统地组织了恶意对手在颠覆ML系统中所采用的技术。”
由Microsoft和MITRE以及科技公司,IBM,NVIDIA,Bosch和其他多个组织共同开发。
ML内容发布在GitHub上,主要包括:
对抗性ML 101
- <