经验误差:在训练集上的误差,亦称“训练误差”
泛化误差:在“未来”样本上的误差
训练集:使用训练集的数据来训练模型
验证集:用验证集验证模型的效果
测试集:用测试集测验模型的最终效果
学习率:学习率(Learning rate)为监督学习以及深度学习中重要的超参,其决定着目标函数能否收敛到局部最小值以及何时收敛到最小值。合适的学习率能够使目标函数在合适的时间内收敛到局部最小值。
过拟合:是指为了得到一致假设而使假设变得过度严格。
欠拟合:指模型拟合程度不高,数据距离拟合曲线较远,或指模型没有很好地捕捉到数据特征,不能够很好地拟合数据。
线型模型的均方误差
后面要经常遇到的方法非常重要