Adversarial Machine Learning(intro)

Adversarial Machine Learning

无意从一位老师的主页上看到了adversarial machine learning

该老师Benjamin Rubinstein(墨尔本大学)的个人主页
http://www.bipr.net/ 


传统的统计机器学习(人工只能,数据挖掘,机器学习和统计)被成功的应用与很多产品中,并加强了大数据(数据科学和分析)的产业化趋势。经典的统计机器学习的任务包含了分类,回归,密度估计和聚类。衡量统计机器学习性能的标准主要是精度(统计角度)和运行时间/存储(计算角度)。如今,统计机器学习逐渐被应用于恶意行为狂妄蔓延的系统。此时,在统计机器学习中对数据的假设(比如,平稳,独立,又或者随机性)就和数据篡改或误用这一现实不匹配。

现在的大数据的确很火,大家都在想着如何从海量数据中学习有效的知识,但这同时引起了很多人对用户隐私安全担忧。

顺应这个潮流,adversarial  machine learning(对抗机器学习?) 出现了。系统的袭击者总是希望破坏其的完整性,有效性和私密性,这激发我们以下两点研究兴趣:

1)评价已有机器学习的安全性和私密性

2)如何改进已有的机器学习,让其更加安全


Benjamin利用了很多技术,如kernel methods,bayesian statistics,online learning theory,robust statistics,differential privacy,将其应用与网络安全,风险管理和数据隐私。


作者从08年就开始这项工作了,


曾经一位大牛说过,自己一个人忽悠一件事是不行的,得有一大堆人帮你一起忽悠。


15年还出了一本书

Adversarial Machine Learning: Computer Security and Statistical Machine Learning

可以吸引更多的人一起忽悠了


用户隐私的确是一个极具现实意义的问题,让机器学习自己实现自我保护,也是很有意思的想法。


道理都会说,实现起来还是蛮困难的

阅读更多
换一批

没有更多推荐了,返回首页