最近看论文,看到了”对抗样本“的一些内容,然后又研究了一下其背后的东西,发现还有”机器学习的安全“这一问题,然后找了几篇博客看了一下,发现了篇2019年的比较有意思的文章,这里整理一下,方编译后查阅。
机器学习(Machine Learning)的安全问题
关于机器学习,每个人都忘记了什么
人工智能,更具体地说是机器学习,确实正在将科幻小说变为现实。看穿墙壁?通过视频猜测材料的物理特性?通过键盘声音估算击键次数?那么生成逼真的面孔、身体或诗歌呢?或者教机器画画?
现在,如果你真的去和人工智能/ML 领域的从业人员交谈,你可能会得到两种回答中的一种:
- 他们对人工智能/ML 所能做的事情感到无比兴奋,并正在研究下一个大的视觉/NLP/强化学习问题;
- 他们对我们这些愚蠢的人类正在建造的东西感到无比恐惧,并认为人工通用智能很快就会把人类变成一堆没用的回形针。
病毒软件的发展
让我们回顾历史,重温 PC 市场。第一台个人电脑(Altair 8800)发布于 1975 年,随后的 10 年里,个人电脑不断推陈出新,最终于 1984 年推出了我们现在看起来再熟悉不过的 “苹果 Macintosh”。随之而来的是一股爆炸性的应用浪潮,这股浪潮一直持续到整个 20 世纪 90 年代,直至 2000 年:
然而,大多数用户并不知道,恶意软件或 “恶意软件”市场正在发生类似的爆炸。
1989 年,罗伯特-莫里斯(Robert Morris)利用 Unix sendmail 进行实验,制作了一个可自我复制的蠕虫病毒,并将其发送到互联网上。最初只是一次实验,最后却成为了第一次 DoS 攻击,造成的损失估计在 10 万到 1 万美元之间,整个互联网的运行速度慢了好几天(当然,这在现在是不可想象的)。
随后,1989 年出现了第一次勒索软件攻击,1996 年出现了第一个 Linux 病毒(“Staog”),1998 年出现了第一个 AOL 木马。
后来,同样的情况也发生在移动领域:2007 年 iPhone 诞生之后,智能手机的应用出现了爆炸式增长:
…随后是移动恶意软件的爆炸式增长:
现在–机器学习怎么样?
尽管热闹非凡,但机器学习的产品化仍处于起步阶段。许多真正前沿的工作仍局限于研究实验室和大学,但即使从研究的角度来看,我们也可以开始看到一些相同的趋势。
按年份和领域分列的机器学习研究论文数量: