过拟合及其解决办法

过拟合就是模型的对于数据集和标签集的模拟效果很强,但是泛化能力不行.

就好像私人定制的东西可能不适合批量生产,因为它们可能无法较好的满足大众市场的需求.

又好比一个学生在学习的时候只会做那么几道题,也就是他背会了你给他的题的答案,但是到了考试的时候还是只会按照那几道题的固定模式去做,结果考崩了.

一般来说,过拟合是因为你的从参数很多,而数据相对较少,不能充分的约束参数.

那么如何解决过拟合?

1.足够的数据

2.减少特征,人工判断特征的重要性,其实也是在减少参数,其实后面会有一个自动选取模型的算法

3.正则化

4.dropout,随机忽略一部分神经元.

具体实现以后更新.