1,逻辑回归相比线性回归,有何异同?
不同之处:
* 逻辑回归解决的是分类问题,线性回归解决的是回归问题,这是两者最本质的区别。
*逻辑回归中因变量是离散的,而线行回归中因变量是连续。
*在自变量和超参数确定的情况下逻辑回归可以看作广义的线行模型在因变量下服从给二元分布的一个特殊情况给。
*使用最小乘二法求解线性回归是我们认为因变量服从正太分布。
相同之处:
*二者在求解超参数的过程中都使用梯度下降的方法。
*二者都使用了极大似然估计兑训练样本进行建模。
总之, logistic回归与线性回归实际上有很多相同之处,最大的区别就在于他们的因变量不同,其他的基本都差不多。
正是因为如此,这两种回归可以归于同一个家族,即广义线性模(generalized linear model)。
如果是连续的,就是多重线性回归,如果是二项分布,就是logistic回归。logistic回归的因变量可以是二分类的,也可以是多分类的,但是二分类的更为常用,也更加容易解释。所以实际中最为常用的就是二分类的logistic回归。
2,回归问题常用的性能度量指标
*均方误差:反应估计值与被估计量之间差异程度的一种度量
*RMSE均方根误差:观测值与真实值偏差的平方和域观测次数m比值的平方根,用来衡量观测值同真值之间的偏差
*SSE和方误差