1. 对数几率回归/逻辑回归/LR
此篇详述见《统计学习方法笔记06：LR逻辑回归模型》。
《西瓜书》讲此节的衔接很好。特此补充。
上节讲到线性回归应用于回归任务。但若要做分类任务咋办？
从广义模型上入手：只需要将回归模型的预测值，映射到分类任务的标记上。
例如：单位阶跃函数。对二分类任务，将模型产生的预测值是实值，转化为0/1值通过下式：
但阶跃函数不可导。一个近似替代函数就是对数几率函数：
这是一个“Sigmoid函数”：形似S形函数。代入有：
将上式变换有：
本文介绍了线性模型在分类任务中的应用，详细阐述了逻辑回归（LR）和线性判别分析（LDA）。LR通过Sigmoid函数将线性模型的预测值转换为概率，适用于二分类问题，具有模型简洁和可导等优点。而LDA则是基于最大类间距离和最小类内距离的投影方法，尤其在二分类问题中，当数据满足特定条件时，LDA能达到最优分类效果。此外，还简要提及了LDA在多分类问题中的扩展。
最低0.47元/天 解锁文章
1559
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
