关于Dropout的详细内容可参考论文 "Dropout: A Simple Way to Prevent Neural Networks from Overfitting"论文
Dropout 是一个降低过拟合的正则化技术。他在网络中丢弃一部分神经单元,以及与它们的前后续相连的所有节点。
在TensorFlow中:TensorFlow提供了一个函数
tf.nn.dropout(cell,keep_prob)
其中参数
cell: 要dropout的tensor,
keep_prob:任何一个给定单元的留存率,即每批数据输入时神经网络中的每个单元会以1-keep_prob的概率不工作,防止过拟合。
测试时,可以把keep_prob的值设为1.0,这样保留所有的单元,最大化模型的能力。
1.没有dropout作用
2.有dropout作用