什么是过拟合
过拟合就是模型的泛化能力不好,我们训练出来的模型表现出低偏差,高方差。通常是由两个方面引起的 数据+模型复杂度
解决办法
出现这种情况:
我们可以通过增加更多训练数据集,让模型看到更多的特征组合
我们可以降低我们的模型的复杂度,也就是适当的减少一些参数
同时我们还可以使用dropout,l2正则。
在训练的时候,我们可以根据模型的在验证集的指标来判断是否提前终止训练,如果评价指标(如F1值)一连几次在验证集上都没有提升,我们就可以提前终止训练,防止过拟合。
添加噪声 使用平滑技术,平滑因子为epsilion ((1-epsilon)*inputs)+(epsilon/V)