深度学习——模型调整

模型调整

前言

在深度学习简介的3.3部分，给大家贴了一幅图：

这幅图，很好的说明了模型调整的一个大致的框架。那么，具体怎么调整，其实在这幅图的左侧已经说明了。下面，我们就分别说一下这几个东西。

一.学习率调整(Adaptive Learning Rate)

这个，其实我们已经有很详细的介绍，参考这篇文章：回归补充（三）梯度下降的改进

二.提前停止(Early Stopping)

关于这个，一幅图就可以说明问题：

这里需要注意一下验证集，训练集，测试集的区别：

• 训练集（training set）： 用来训练模型
• 验证集（validation set） : 用来做模型选择（这个，正好对应SKlearn当中的model_selection）因此，所谓的验证集，其实是你从测试集当中切出来的。
• 测试集（test set） : 用来评估