随机失活 dropout直观理解

dropout即随机失活正则化，如下图所示：

a图中为标准的结构，b图中应用了dropout，可以看到，在应用过后会有一部分神经元失活了，没有与其他的神经相连，因此可以有效的减少过拟合现象，注意这里的失活为随机失活，即下次，这个失活的神经元可能又会被重新的开启。

如下图所示对dropout防止的理解：

的优缺点

优点：

1.因为有了卷积层，达到了共享的卷积核，对高维的数据处理无压力

2.不需要手动的选择特征，训练完成后，即可得到特征，这一点也是流行的原因

3.深层次的网络对于图像来说，表达效果好，因为图像的信息过于丰富

缺点：

1.需要调参，需要大量的样本，计算量大

2.其物理的含义不明确，即你不能很好的说明为什么要这么做，这也是不同于一些理论性很强的算法如SVM的原因。