本文介绍了逻辑回归的原理，包括二分类问题的决策边界，以及如何使用sklearn实现多项式逻辑回归。接着讨论了逻辑回归在多分类问题中的应用，如OvR和OvO方法，并指出OvO的正确率通常更高。文章还强调了分类准确度在处理偏斜数据时的不足，提出了使用混淆矩阵、精准率、召回率和F1分数等评估指标。此外，详细解释了ROC曲线及其在模型比较中的作用，并展示了如何通过混淆矩阵分析多分类问题的错误分布，以改进算法。
1、 逻辑回归
逻辑回归常用于二分类，利用sigmoid函数作为激活函数，可以形成决策边界
p ^ = σ ( θ T ⋅ x b ) = 1 1 + e − θ T ⋅ x b \hat{p}=\sigma \left ( \theta ^{T}\cdot x_{b} \right )=\frac{1}{1+e^{-\theta ^{T\cdot x_{b}}}} p^=σ(θT⋅xb)=1+e−θT⋅xb1
若 θ T ⋅ x b ≥ 0 \theta ^{T}\cdot x_{b}\geq 0 θT⋅xb≥0,则 p ^ ≥ 0.5 \hat{p}\geq 0.5 p^≥0.5,那么分类结果为1
若 θ T ⋅ x b ≤ 0 \theta ^{T}\cdot x_{b}\leq 0 θ
最低0.47元/天 解锁文章
扫一扫
1万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
