AI模型常见的后门攻击及后门检测算法调研

（这本来是我写的一些文档，希望总结下来对研究AI算法安全的伙伴有帮助）

1 背景：

近年来后门攻击作为一种新的攻击方式出现在深度学习模型中，所谓后门就是指绕过安全控制而获取对程序或系统访问权的方法，而后门攻击就是指利用后门特权对深度学习进行攻击。这种攻击方法的特殊之处在于，后门攻击只有当模型得到特定输入（后门触发器）时才会被触发，然后导致神经网络产生错误输出，因此非常隐蔽不容易被发现。例如，在自主驾驶的情况下，攻击者可能希望向用户提供后门式路标检测器，该检测器在大多数情况下对街道标志进行分类具有良好的准确性，但它将带有特定标签的停车标志归类为限速标志，从而可能导致自动驾驶车辆以一个危险的速度继续通过该停车的十字路口，从而造成严重的交通事故。