一、Logistic回归概念
logistic回归又称logistic回归分析,是一种广义的线性回归分析模型,常用于数据挖掘,疾病自动诊断,经济预测等领域。实际中的logistic回归用途是极为广泛的,logistic回归几乎已经成了流行病学和医学中最常用的分析方法。
二、Logistic回归的推导过程
Logistic Regression来说,其思想是基于线性回归,其公式如下:
在这里
被称为sigmoid函数,Logistic Regression算法是将线性函数的结果映射到了sigmoid函数中。我们可以看到,sigmoid的函数输出是介于(0,1)之间的,它的图像如下图所示:
使用概率论中极大似然估计的方法去求解损失函数,首先得到概率函数为:
由