笔者原先是做传统安全的,专注于系统安全与软件安全的任务研究和算法优化。但是近几年,在“人工智能”话题火热的情况下,有关机器学习安全的问题,也是层出不穷。因此这段时间,对于这个方向有所初探,并把相关的内容自己总结成文记录下来。
注:这里引用一下我师弟Zhongling He当时在做报告时候的ppt时候的截图,帮助我总结来提炼重点。(虽然我也给了点微小的指点)
首先来回顾下机器学习的概念,其概念就是使用统计的技术使得计算机系统具有学习的“智能”。但是,计算机系统对于数据的学习能力只能局限于特定的任务,也是因为局限于当前的算法,对于场景和数据敏感性比较强,还没有我们认知中这么强的迁移能力。因此我们当前的人工智能还停留于“弱人工智能”阶段,同时要进步到“强人工智能”还需要一段时间。
这里还想补充一点,机器学习的起点就是基于数学的,目前在笔者视野范围里,一个模型的学习结果,是对于当前特定数据集合中规律的抽取,并通过数据组合规律的“学习”,去尽可能逼近最终目标场景中“函数”。
那么对于具体的学习任务而言,主要是分为三类,监督学习,非监督学习和强化学习。对于监督学习而言,输入模型的信息即为{Xi&