逻辑回归讲解及推导
逻辑回归又称logistic回归,逻辑斯谛回归,是一种广义的线性回归分析模型。
1. Sigmod函数
Sigmoid函数也是神经网络中常用的函数,用于把x从负无穷到正无穷压缩到y从0到1之间。画出来就是一条S型曲线,如下图中的蓝色曲线:
它以0点为中心对称,公式如下:
当x值接近负无穷时,分母很大,S(x)接近0,当x接近正无穷时,分母接近1,S(x)接近1,当x为0时,S(x)为1/2在正中间。S曲线的弯曲程度由e决定。 它的导数是上图中的橙色曲线:
导数的意义是变化率,当x很大时或很小时,S’(x)接近0,而在x接近0时,S’(x)值最大,即S曲线在0点处变化剧烈,它勾勒出了y在0与1之间模棱两可的区域。
2.逻辑斯谛分布
必须满足逻辑斯谛分布,才能用逻辑回归。那么什么是逻辑斯谛分布?
逻辑斯谛