逻辑回归和线性回归有何不同?

分类和回归问题

首先我们来明确两个大类:分类问题和回归问题。

分类问题:输出变量为有限个离散变量的预测问题为分类问题

回归问题:输入变量与输出变量均为连续变量的预测问题是回归问题

举个例子:

预测明天的气温是多少度,这是一个回归问题;
预测明天是阴、晴还是雨,就是一个分类问题。

线性回归

线性回归是一个典型的回归算法,所谓的线性回归指的就是用一条直线能够较为准确的描述数据之间的关系,当有新的数据出现时,根据这条直线我们就能够预测出一个值。常见的一个问题便是房价的预测问题,如下图:该问题准确的描述了房屋面积和房屋价格之间的关系。

逻辑回归

乍一听这个名字,很多人把它当作为回归问题,其实逻辑回归是分类问题中最常用的模型之一。

逻辑回归是什么请看这里

有何异同

实际在逻辑回归中,因变量取值是一个二元分布,模型学习得出的是E[y|x;\theta],即给定了自变量和超参数之后,得到因变量的期望,并基于此期望来处理预测分类问题。而在现行回归中我们求解的是y^{'}=\theta^{T}x,是对我们假设的真实关系y = \theta^{T}x+\epsilon的一个近似,后面的\epsilon表示的是误差项,我们使用这个近似项来处理回归问题。

从另一个角度看逻辑回归和线性回归都使用了极大似然估计来对训练样本进行建模,线性回归使用最小二乘法,实际上就是在变量x和超参数\theta确定的情况下,因变量y服从正态分布的假设下,使用极大似然估计的一个化简;而在逻辑回归中通过对似然函数的学习最终得到最佳参数\theta

  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

二哥不像程序员

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值