机器学习与信息安全

机器学习与信息安全

什么是机器学习

机器学习首先要有一个学习算法即初步的模型，然后对该算法输入大量的数据供其学习，使其具有独立判断预测的能力。机器学习 ≈ 寻找一个好的函数。该函数不是通用的，针对不同的任务得到的函数是不同的。通过数据来获得一个好的函数，利用历史数据 “训练” 产生一个好的函数 (称之为“模型”)，利用 "模型” 对新数据进行 "预测” 。
机器学习的思想并不复杂，仅仅是对人类在生活中学习成长过程的一个模拟。是计算机利用已有数据，得出某种模型，并利用模型预测未来的一种方法。

机器学习面临的安全威胁

这个过程可以顺利进行的前提是训练数据和预测数据是同分布的。但敌手会通过修改训练数据的分布对目标模型发起攻击，使其预测结果有大概率偏差。
攻击手段（主要从预测数据和训练数据入手）：
1、投毒攻击，修改、污染训练数据。
2、对抗攻击，制作对抗样本干扰预测数据。
3、询问攻击，窃取预测数据或通过预测数据访问目标模型，盗取模型。

相应的安全防御技术：提高目标模型的顽健性可以对预测阶段中出现的未知样本有良好的适应性，在出现恶意样本时模型也可以正常进行预测。
正则化：代价函数添加正则项，提高目标模型的泛化能力，提高模型的适应性，抵抗攻击。避免对具体项产生依赖。
对抗训练：在训练数据集