![](https://img-blog.csdnimg.cn/20201014180756919.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
AML
文章平均质量分 85
Seclab_陈立庚
这个作者很懒,什么都没留下…
展开
-
笔记回顾1|Adversarial Machine Learning的总览1
笔者原先是做传统安全的,专注于系统安全与软件安全的任务研究和算法优化。但是近几年,在“人工智能”话题火热的情况下,有关机器学习安全的问题,也是层出不穷。因此这段时间,对于这个方向有所初探,并把相关的内容自己总结成文记录下来。注:这里引用一下我师弟Zhongling He当时在做报告时候的ppt时候的截图,帮助我总结来提炼重点。(虽然我也给了点微小的指点)首先来回顾下机器学习的概念,其概...原创 2018-11-10 23:12:57 · 2134 阅读 · 2 评论 -
笔记回顾2|Adversarial Machine Learning‘s Threat Model
Firstly, thank to SoK: Towards the Science of Security and Privacy in Machine Learning.本章节主要讨论下这篇文章中,在AML中的threat model。其中内容会借鉴部分参考文献的思路和框架,也会有自己对于应用场景和未来优化的思考。看到上图中,主要介绍了不同的场景中的攻击面,其中涉及到的是普遍的机器...原创 2018-11-13 19:22:20 · 1388 阅读 · 1 评论 -
笔记回顾3|Attack Classification in Adversarial Settings
针对adversarial machine learning这个问题而言,AI出身的小伙伴们可能认为,这样的工作应该只能看做模型的鲁棒性或泛化能力不够强,但是从安全角度考虑,其实所谓的“安全”概念,是从模型的设计者角度出发,考虑到模型的行为超出意料之外,让模型设计者手足无措,因此我们认为是可能存在“潜在威胁”,因而将这类行为归类为安全问题。特此解释。那么针对模型的攻击问题,我们主要分为两大...原创 2018-11-26 20:43:41 · 780 阅读 · 2 评论 -
学习随记|总结-从安全视角对 机器学习的部分思考
摘要近几年,机器学习的大规模应用,以及算法的大幅度提升,吸引了学术界、工业界以及国防部门的大量关注。然而,对于机器学习算法本身的局限性,由于其快速的发展也不断的暴露了出来。因此,不论是人工智能领域的学者,还是安全领域的学者,都希望能够从不同的角度提高模型的泛化能力,自此之后,就拉开了一场在机器学习领域的军备竞赛。在不断的“攻”与“防”的竞争下,目前的针对机器学习模型的安全问题,也取得了不错的进...原创 2019-01-12 21:22:17 · 611 阅读 · 0 评论