逻辑回归和线性回归的区别

参考文献

查阅的先后顺序：

• 先看这个，直接了当
  线性回归于逻辑回归的区别
• 这位up主的推文带公式多
  【ML】线性回归和逻辑回归的联系和区别
• 这位带错误函数/代价函数/损失函数的几种函数方法
  线性回归和逻辑回归的区别
• 这位讲的比较笼统
  逻辑回归和线性回归的区别

总结

逻辑回归，都是以线性回归为理论支持的

逻辑回归多了一个Sigmoid函数（激活），使样本能映射到[0,1]之间的数值，用来做分类问题



线性回归得到大于0的输出，逻辑回归就会得到0.5 ~ 1的输出；线性回归得到小于0的输出，逻辑回归就会得到0 ~ 0.5的输出；

logistic回归则通过函数L将w‘x+b对应一个隐状态p，p=L(w‘x+b),然后根据p与1-p的大小决定因变量的值

• 逻辑回归（预测函数，用于分类，是离散值，如预测大雨小雨中雨，癌症），多了一层激活函数
• 线性回归（拟合函数，连续值，如下雨量：10mm，20mm，30mm），拿来预测数据比较多

如果是连续的，就是多重线性回归，如果是二项分布，就是logistic回归。

logistic回归的因变量可以是二分类的，也可以是多分类的，但是二分类的更为常用，也更加容易解释。所以实际中最为常用的就是二分类的logistic回归。

	线性回归用来预测，逻辑回归用来分类。

    线性回归是拟合函数，逻辑回归是预测函数

    线性回归的参数计算方法是最小二乘法，逻辑回归的参数计算方法是梯度下降法