TensorFlow2.0学习笔记---early stopping和dropout

early stopping：

跟验证集validation有关，利用验证集来做测试，在做交叉验证的时候会有一个val的loss和acc曲线，根据这个曲线会自动earlystop

因为一般认为在验证时，val的acc曲线先上升，保持一段时间，然后可能因为过拟合再下降。当val的acc曲线上升之后保持一段时间之后开始下降，根据一般经验来说下降之后不会再上升到比原来还高的acc，所以在acc下降前及时early stop。

 

 

dropout层：

 

dropout层就是在训练train时，把网络的连接数量降低，减少了参数量，可以减少过拟合。但是在验证和测试时，不能用dropout层，下图0.5代表断开连接的比例。

 

 

在这里要注意：验证和测试时需要用到上面含有dropout的网络network，因此需要把设置断开dropout层。在训练时打开。

training = true 是打开 training = false代表关闭