为什么不能直接用线性回归做分类(loss function角度)

本文阐述了在分类问题中为何不采用线性回归,而选择逻辑回归的原因。主要从两个方面进行解释:1) 线性回归的预测值是连续的,不便于转化为类别概率;2) 逻辑回归的损失函数在处理极端值时影响较小,而线性回归易受极端值影响。通过对比两者的拟合函数和损失函数,强调了逻辑回归在分类任务中的优势。
摘要由CSDN通过智能技术生成

本文将对在做分类问题的时候不选用线性回归而是选用以Sigmoid函数作为拟合函数的逻辑回归作出两点解释。

1.线性回归中返回的是连续的预测值(-∞,+∞),而不是便于判断类别的概率 [0,1]

通过线性回归和逻辑回归的拟合函图像数我们可以看出,线性回归的范围在(-∞, +∞),而逻辑回归的范围在[0,1]之间,我们可以比较方便的根据概率(即g(x))的大小来判断类别。(比如,当g(x)>0.5,我们可以认为y = 1)
在这里插入图片描述

2.当用线性回归做分类问题时,预测结果极易受到极端值的影响。

接下来从损失函数作出解释。

1)线性回归的损失函数:在这里插入图片描述

在这里插入图片描述

线性回归考虑极端情况:
当x趋于无穷大的时候,若斜率不变则h(∞)也应该增大,但是线性回归为了满足损失函数最小化,h(∞)会向1靠近,这就

  • 4
    点赞
  • 12
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值