机器学习系列之（五） 正则化

前言

之所以要使用正则化，就是为了减少过拟合，通过减小假设函数中的参数来达到这个目的。

常见正则化方式

1. 
2. 

lasso回归与岭回归

使用L1正则化的线性回归叫做lasso回归，L2正则化的线性回归叫做岭回归
对于lasso回归来说，不仅可以预防过拟合，还可以通过使某些参数变成0的方式来进行特征筛选，预防“维度灾难”的发生，达到降维的目的。
岭回归可以显著的预防过拟合。