python lasso做交叉验证法_Python实战—Lasso回归选取关键特征

芭蕉不展丁香结， 同向春风各自愁！

下雨天，宜安静、宜愁思

雨滴滴答答地下

远方的

你

还好吗？

今天，分享一下Lasso回归用于选取关键特征，数据探索性分析时，引入的特征太多，要直接用这些特征建模分析，需要对原始特征进一步筛选，只保留重要的特征，Lasso算法在模型系数绝对值之和小于某常数的条件下，谋求残差平方和最小，在变量选取方面的效果优于逐步回归、主成分回归、岭回归、偏最小二乘等，能较好的克服传统方法在模型选取上的不足。

我们选取部分GDP指标如下所示：

Lasso回归概念

Lasso回归方法属于正则化方法的一种，是压缩估计。它通过构造一个惩罚函数得到一个较对精炼的模型。使用它压缩一些系数，同时设定一些系数为零，保留了子集收缩的优点，是一种处理具有复共线性数据的有偏估计。

Lasso基本原理

Lasso以缩小特征集(降阶)为思想，是一种收缩估计方法。Lasso方法可以将特征的系数进行压缩并使某些回归系数变为0，进而达到特征选择的目的，可以广泛地应用于模型改进与选择。通过选择惩罚函数，借用Lasso思想和方法实现特征选择的目的。模