tensorflow logistic回归模型

logistic定义

对数几率回归（也称“逻辑回归”）（英语：Logistic regression 或logit regression），即对数几率模型。

模型形式

logistic回归是一种广义线性回归（generalized linear model），因此与多重线性回归分析有很多相同之处。它们的模型形式基本上相同，都是y=w‘x+b。

sigmoid函数

sigmoid函数的数学公式如下：

3T$DQ4W}POJG)%8{KA68KSU.png

如下图给出了sigmoid函数在不同坐标尺度下的曲线。随着x的增大，对应的sigmoid值就越来越逼近1，随着x趋近于0，sigmoid也逼近于0。如果横坐标刻度足够大，那么sigmoid看起来就会像一个越阶函数。
[图片上传失败...(image-310c5c-1557476369646)]

损失函数定义

对于分类问题该怎么定义loss函数
logistic回归使用了sigmoid函数把结果限定在了0~1之间，这里使用交叉熵的方式对loss进行定义

交叉熵数学公式：

image.png

交叉熵的数学推导过程：

参考文章https://zhuanlan.zhihu.com/p/38241764