机器学习（Machine Learning）的安全问题

最近看论文，看到了”对抗样本“的一些内容，然后又研究了一下其背后的东西，发现还有”机器学习的安全“这一问题，然后找了几篇博客看了一下，发现了篇2019年的比较有意思的文章，这里整理一下，方编译后查阅。

关于机器学习，每个人都忘记了什么

人工智能，更具体地说是机器学习，确实正在将科幻小说变为现实。看穿墙壁？通过视频猜测材料的物理特性？通过键盘声音估算击键次数？那么生成逼真的面孔、身体或诗歌呢？或者教机器画画？

现在，如果你真的去和人工智能/ML 领域的从业人员交谈，你可能会得到两种回答中的一种：

1. 他们对人工智能/ML 所能做的事情感到无比兴奋，并正在研究下一个大的视觉/NLP/强化学习问题；
2. 他们对我们这些愚蠢的人类正在建造的东西感到无比恐惧，并认为人工通用智能很快就会把人类变成一堆没用的回形针。

病毒软件的发展

让我们回顾历史，重温 PC 市场。第一台个人电脑（Altair 8800）发布于 1975 年，随后的 10 年里，个人电脑不断推陈出新，最终于 1984 年推出了我们现在看起来再熟悉不过的 “苹果 Macintosh”。随之而来的是一股爆炸性的应用浪潮，这股浪潮一直持续到整个 20 世纪 90 年代，直至 2000 年：

然而，大多数用户并不知道，恶意软件或 “恶意软件”市场正在发生类似的爆炸。

1989 年，罗伯特-莫里斯（Robert Morris）利用 Unix sendmail 进行实验，制作了一个可自我复制的蠕虫病毒，并将其发送到互联网上。最初只是一次实验，最后却成为了第一次 DoS 攻击，造成的损失估计在 10 万到 1 万美元之间，整个互联网的运行速度慢了好几天（当然，这在现在是不可想象的）。

随后，1989 年出现了第一次勒索软件攻击，1996 年出现了第一个 Linux 病毒（“Staog”），1998 年出现了第一个 AOL 木马。

后来，同样的情况也发生在移动领域：2007 年 iPhone 诞生之后，智能手机的应用出现了爆炸式增长：

…随后是移动恶意软件的爆炸式增长：

现在–机器学习怎么样？

尽管热闹非凡，但机器学习的产品化仍处于起步阶段。许多真正前沿的工作仍局限于研究实验室和大学，但即使从研究的角度来看，我们也可以开始看到一些相同的趋势。

按年份和领域分列的机器学习研究论文数量：