拟合与过拟合

拟合跟过拟合

过拟合：将泛化误差分解为偏差跟方差
偏差：学习者不断学习相同错误事物的倾向
方差：学习随机信号而不考虑真实情况的趋势
过拟合:所建的机器学习模型或者深度学习模型在训练样本中表现得过于优越，导致测试数据集表现不佳的现象
原因：数据量太少或模型太复杂
样本噪音干扰过大，使得机器将学习了的噪音误以为是特征
对于神经网络模型：权值学习迭代次数太多

解决方法

1. 正则化：在损失函数后再加一项专门用来控制拟合的惩罚项，避免某些参数太大

2. k折交叉验证：将数据集划分成K个子集，然后再k-1个子集上迭代训练算法，同时使用剩余的自己做测试集，通过这种方式，可以在未参与训练的数据上测试模型

3. Dropout：在训练过程中每次按一定的几率忽略某些层的节点，使得模型在使用同样的数据进行训练时相当于从不同的模型中随机选择一个进行训练