LASSO回归如何完成分类任务?

除了框出的部分,其他均为LASSO回归内容,此处不多介绍。

LASSO回归的特点是在拟合广义线性模型的同时进行变量筛选和复杂度调整。 因此,不论目标因变量是连续的,还是二元或者多元离散的, 都可以用LASSO回归建模然后预测(摘自python机器学习库scikit-learn简明教程之:Lasso回归预测)。

利用LASSO回归进行二分类任务的过程:

在训练的时候,仍然同回归任务一样,直接通过最小化损失函数拟合标签“0”“1”。

但是因为是回归模型,验证或测试时,输出结果是分布在0或1附近的标量值,而非标签“0”“1”,因此需要一个决策边界来将这两类数据进行划分,以完成分类任务。

此时利用Logistic回归,将线性回归结果进行概率化,概率高的为最后的分类结果。概率化的过程参考博客(机器学习入门——Logistic回归)6.4部分,即利用上面论文中的公式(3)进行映射,即可得到二分类的分类结果。


参考:

1. https://www.zhihu.com/question/271943628/answer/367690397

2. https://blog.csdn.net/louishao/article/details/54813073

阅读更多
想对作者说点什么?

博主推荐

换一批

没有更多推荐了,返回首页