正则化（regularization）

正则化思想：为了避免过度拟合，可以使高阶项系数变得非常小，具体做法是在利用梯度下降法求解参数时，如上图所示，为使快速收敛，可以对高阶项系数增加惩罚项，因为1000很大，那么参数西塔必须变得非常小。

一般只对非常数项系数进行正则化

 

当惩罚过大时，会使得参数西塔过小，那么特征化就不明显 ，那么拟合函数就类似于常数项，就像一条水平直线，无法体现特征，不能很好地拟合参数，具有较大偏差。