MATLAB基础应用精讲-【数模应用】Lasso回归（套索回归）（附Python代码实现）

目录

前言

发展历程

瓶颈

未来发展方向

 几个高频面试题目

岭回归、套索回归、主成分回归对比

详细方法

选择最佳模型

降维方法

解释高维结果

岭回归和套索

PCR和PLS

算法原理

SPSSAU

Lasso回归分析案例

1、背景

2、理论

3、操作

4、SPSSAU输出结果

5、文字分析

6、剖析

疑难解惑

F 值括号里面的两个值分别是什么?

智能分析每次都提示k值为0.99？

lasso回归分析前是否需要对数据进行标准化处理？

Lasso回归与岭回归如何选择？

lasso回归时提示‘某标题数字恒定，请检查数据！’？

lasso回归时没有输出标准化回归系数？

优缺点

优点：

缺点：

代码实现

python

岭回归代码

套索回归代码

---

 

前言

Lasso 回归也叫套索回归，是通过生成一个惩罚函数是回归模型中的变量系数进行压缩，达到防止过度拟合，解决严重共线性的问题，Lasso 回归最先由英国人Robert Tibshirani提出，目前在预测模型中应用非常广泛。

一般线性回归模型的目标是最小化残差平方和，即通过拟合一个线性方程来预测目标变量。然而，在实际问题中，可能存在大量的自变量，其中一些可能对目标变量的预测能力较弱或冗余。此时，Lasso回归通过引入L1正则化 (即Lasso惩罚项)，可以将系数向量中小的权重变为0，从而实现特征选择和模型稀疏性。Lasso回归具备如下几个作用。

特征选择：Lasso回归可以用于选择最重要的特征。它通过在优化目标函数中添加一项惩罚项（L1正则化）来实现稀疏性，使得系数向量中很多特征的权重变为0。通过选择非零系数对应的特征，可以筛选出对目标变量有最大预测能力的特征，从而简化模型，提高模型的泛化能力。

多重共线性问题：在医学研究中，往往存在多个相关的自变量。Lasso回归可以通过自变量之间的相关关系，将相关的自变量的系数变为0，从而降低多重共线性对回归结果的影响。

预测建模：通过Lasso回归可以建立模型来预测患者的疾病风险或病情发展。在医学研究中ÿ