在训练过程中,按照一定的比例将网络中的神经元进行丢弃,可以防止模型训练过拟合的情况。
只在训练过程中有效,预测的时候所有的神经元都用,训练的时候随机有一些神经元丢弃。
丢弃法将一些输出项随机置0来控制模型复杂度
常作用在多层感知机的隐藏层输出上,输出层一般不用,卷积层一般不用
- 1 tensorflow中使用tf.keras.layers.Dropout()
- 2 PyTorch中需要设置model.train或model.eval()
在训练过程中,按照一定的比例将网络中的神经元进行丢弃,可以防止模型训练过拟合的情况。
只在训练过程中有效,预测的时候所有的神经元都用,训练的时候随机有一些神经元丢弃。
丢弃法将一些输出项随机置0来控制模型复杂度
常作用在多层感知机的隐藏层输出上,输出层一般不用,卷积层一般不用