欠拟合与过拟合
![在这里插入图片描述](https://img-blog.csdnimg.cn/20200902211334390.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzU0MzIxMA==,size_16,color_FFFFFF,t_70#pic_center)
![在这里插入图片描述](https://img-blog.csdnimg.cn/20200902211359978.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzU0MzIxMA==,size_16,color_FFFFFF,t_70#pic_center)
模型越复杂(层数,每层神经元数量),表达能力越强。
欠拟合
![在这里插入图片描述](https://img-blog.csdnimg.cn/20200902211537348.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzU0MzIxMA==,size_16,color_FFFFFF,t_70#pic_center)
欠拟合特点:
![在这里插入图片描述](https://img-blog.csdnimg.cn/20200902211635355.png#pic_center)
过拟合
![在这里插入图片描述](https://img-blog.csdnimg.cn/20200902211708286.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzU0MzIxMA==,size_16,color_FFFFFF,t_70#pic_center)
过拟合特点(模型泛化能力差):
![在这里插入图片描述](https://img-blog.csdnimg.cn/20200902211739833.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzU0MzIxMA==,size_16,color_FFFFFF,t_70#pic_center)
若训练集数据足够多,则不易ovefitting;若训练数据量少,则易受噪声影响,发生过拟合。
小结
![在这里插入图片描述](https://img-blog.csdnimg.cn/20200902212002170.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzU0MzIxMA==,size_16,color_FFFFFF,t_70#pic_center)
减轻过拟合的方法
- 增加训练集数据量;
- 使用 validation_data ,即提前停止(early stopping)策略。用validation_data 可以检测并且减轻过拟合(当验证集准确率下降时终止训练);
- 简化模型----规范化(权重衰减)、dropout。