AI安全入门

简介：最近开始看AI安全方面的书，本文主要介绍针对AI系统的攻击方式，以及检测和加固的方法。  

一、针对AI系统的攻击方式

        1.模型窃取

        2.数据投毒

        3.对抗样本

                对抗样本：实际是对数据增加一定的扰动

                对抗样本不是噪声，而是特征

                对抗训练实际上是一种数据增强

二、脆弱性检测分类

       1、白盒检测算法：

                ILCM(最相似迭代算法)，FGSM（快速梯度算法）,BIM（基础迭代算法）,PGD,MIFGSM,CW（C/W算法）,Deepfool。

        2、黑盒检测算法

        Single Pixel Attack（单像素攻击）

        Local Search Attack （本地搜素攻击）