- 博客(5)
- 收藏
- 关注
RSS订阅原创 ATLAS——对抗性机器学习威胁矩阵＜案例研究三、四、五＞
VirusTotal调查不正常的勒索软件家族的报告有所增加时，我们发现该特定勒索软件家族的许多样本是在短时间内通过流行的病毒共享平台提交的。进一步调查显示，根据字符串相似度，样本都是等效的，根据代码相似度，它们的相似度在 98% 到 74% 之间。有趣的是，所有示例的编译时间都是相同的。;Skylight 的研究人员能够创建一个通用绕过字符串，该字符串附加到恶意文件后可以逃避 Cylance 的 AI 恶意软件检测器的检测。
2023-11-03 17:03:55
525
原创 ATLAS——对抗性机器学习威胁矩阵＜案例研究二＞
算法攻击对抗学习dga检测Palo Alto Networks Security AI 研究团队能够通过域名变形，来绕过基于卷积神经网络 (CNN) 的僵尸网络域生成算法 (DGA) 检测。它是一种通用的域名变形技术，可以避开大多数基于 ML 的 DGA 检测模块。这种通用变形技术还可以用于测试安全公司开发的所有 DGA 检测方法在部署到生产环境之前的有效性和鲁棒性。
2023-10-24 17:15:17
219
原创 ATLAS——对抗性机器学习威胁矩阵＜案例研究一＞
Adversarial ML Threat Matrix——对抗性机器学习威胁矩阵＜案例研究＞ 针对恶意软件 C&C 流量的深度学习检测器规避1：案例摘要 Palo Alto Networks Security AI 研究团队测试了一个深度学习模型，用于检测 HTTP 流量中的恶意C&C流量。该模型基于论文《URLNet: Learning a URL Representation with Deep Learning forMalicious URL Detection》，在生产模型相似的数据
2022-05-25 15:17:30
792
原创 ATLAS——对抗性机器学习威胁矩阵＜简介＞
相信有过安全分析工作经验的友友们对ATT&CK矩阵并不陌生，而对抗性机器学习威胁矩阵就是在机器学习攻防技术博弈的发展上，为了安全分析师能够将自己定位到这些新的和即将到来的威胁，参照ATT&CK矩阵技术的框架设计，来定位对机器学习 (ML) 系统的攻击。该框架植入了一系列精心策划的漏洞和攻击行为，微软和 MITRE 已经审查过这些漏洞和攻击行为对生产环境中机器学习系统有效。
2021-12-13 12:12:44
4683
原创 Counterfit 部署教程
序言近日，微软宣布开源了一种人工智能系统的安全测试工具——Counterfit。微软最初开发该工具来测试自己的AI系统的安全性，在评估其漏洞之后，微软决定开源Counterfit，以帮助组织验证他们使用的AI算法是否“健壮、可靠且值得信赖”。Counterfit最初是为针对单个AI模型编写的攻击脚本的集合，但Microsoft却将其变成了自动化工具，可以大规模攻击多个AI系统。“今天，我们常规地将Counterfit用作我们的AI红队运营的一部分。我们发现，自动化MITRE的Adversarial ML威
2021-08-28 21:51:47
6001
11
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人