正则化思想:为了避免过度拟合,可以使高阶项系数变得非常小,具体做法是在利用梯度下降法求解参数时,如上图所示,为使快速收敛,可以对高阶项系数增加惩罚项,因为1000很大,那么参数西塔必须变得非常小。
一般只对非常数项系数进行正则化
当惩罚过大时,会使得参数西塔过小,那么特征化就不明显 ,那么拟合函数就类似于常数项,就像一条水平直线,无法体现特征,不能很好地拟合参数,具有较大偏差。
正则化思想:为了避免过度拟合,可以使高阶项系数变得非常小,具体做法是在利用梯度下降法求解参数时,如上图所示,为使快速收敛,可以对高阶项系数增加惩罚项,因为1000很大,那么参数西塔必须变得非常小。
一般只对非常数项系数进行正则化
当惩罚过大时,会使得参数西塔过小,那么特征化就不明显 ,那么拟合函数就类似于常数项,就像一条水平直线,无法体现特征,不能很好地拟合参数,具有较大偏差。