Adversarial Machine Learning
Omni-Space
专注Android, Mobile Security and AI
展开
-
AI新方向:对抗攻击
01 概述我在国内的两个著名的学术搜索网站 AMiner 和 Acemap 进行了调查,以 adversarial attack和相近意思的 poisoning attack 等词作为关键词搜索了相关的论文,以下是两个网站给出的论文数据分析图表。一方面,从图中很明显可以看出,在 2015 年直到今年,adversarial attack相关的论文显著增多,这说明了在机器学习发展飞速的今...转载 2019-05-28 17:46:07 · 1061 阅读 · 0 评论 -
【译】Attacks against machine learning — an overview
这篇博客文章调查了针对AI(人工智能)系统的攻击技术以及如何防范它们。在较高级别,对分类器的攻击可以分为三种类型:对抗性输入 ,这是特制的输入,其目的是可靠地错误分类以逃避检测。 对抗性输入包括旨在逃避防病毒的恶意文档,以及试图逃避垃圾邮件过滤器的电子邮件。 数据中毒攻击 ,涉及将训练对抗数据提供给分类器。 我们观察到的最常见的攻击类型是模型倾斜,攻击者试图以这样的方式污染训练数据,即分...翻译 2019-05-28 17:53:53 · 430 阅读 · 0 评论