前言
有很多老铁对线性回归模型中的过拟合和欠拟合感念有点模糊,可以看下这篇文章(节选)感觉写的很棒!喜欢小编的老铁可以关注我一下。每天会更新最新资讯或者技术干货!
过拟合与欠拟合概念
欠拟合:模型过于简单,未能充分捕获样本数据的特征。表现为模型在训练集上的效果不好。
过拟合:模型过于复杂,过分捕获样本数据的特征,从而将样本数据中一些特殊特征当成了共性特征。表现为模型在训练集上的效果非常好,但是在未知数据上的表现效果不好。
概念进一步解释
欠拟合
数据集里很多能影响到的因素没有考虑到。
eg. 房屋面积和房价,y_hat = wx + b可以说是欠拟合,有很多因素能影响房价,除了面积。
过拟合
如果每一个细节都纳入,每一个特征都不放过,不是训练起来很完美吗?
eg. 建筑年代,材料,楼层,考虑到很多因素,很可能需要100元线性回归。就算在训练集的表现很不错,但是太过于考虑训练集特征,导致很可能在测试集上表现的不好,过拟合就是太过于复杂,对特征过分依赖。
表现就是:训练集表现好,测试集不是那么好。
eg. 判断人的性别是男还是女?
举过拟合的例子,只要是有胡子,就是男人。这就是贻笑大方了。