Self-Adversarial-Training(SAT)
SAT类似数据增强
对抗样本的定义:以图像样本为例,在原样本上加入一些轻微的扰动,使得在人眼分辨不出差别的情况下,诱导模型进行错误分类。
如图所示,Input(Panda图像)+ 噪音点 = Output(误判为gibbon图像)
DropBlock
【Dropout】:(b)图中的“x”,代表的是扔掉的像素,就是没有激活的像素,但是网络还是会从dropout掉的激活单元附近学习到同样的信息的【dropout是对神经元的失活,所以对应相应的像素点如图(b)】
【Dropblock】:©图把整块信息dropout掉,就不能学习到这片区域的信息了,可能学到边缘的信息。通过dropout掉一部分相邻的整片的区域(比如头和脚),网络就会去注重学习狗的别的部位的特征,来实现正确分类,从而表现出更好的泛化。
论文 DropBlock: A regularization method for convolutional networks