机器学习——LASSO算法

LASSO算法的简单介绍

LASSO算法和岭回归算法在应用目的上其实都是相似的，这两种算法的本质就是两种不同的正则化方法。
下面来看看这两种方法的对比：


岭回归是L1正则化，LASSO是L2正则化。两个回归系数的值都可以用来限制t，取值有相同的地方。这是一张表示系数和代价函数值关系的图：

红色的圈圈表示的是代价函数值等高线，中间的黑点表示最小值。蓝色区域是系数的选取范围，可以看到，当选取范围和等高线交界的地方是最合适的取值点，这时即符合选取范围，代价函数的值也越接近中心的最小值。

python实现——sklearnLASSO算法

来看看实验用到的数据：