逻辑斯蒂回归:
虽然名字是回归,但是做的是分类。分类问题输出的是概率。
逻辑斯蒂函数:
表达式:
图像:
作用:将函数值映射到0-1之间
特点:属于sigmoid函数之一,由于logistic函数是sigmoid函数中最出名的函数,故很多时候称logistic函数为sigmoid函数。其他的sigmoid函数如下(画圈的常用于循环神经网络):
---sigmoid函数:①增函数②函数值在0到1之间③饱和函数
如果你在论文或者书中发现下面这个希格玛符号,则为logistic函数,
线性模型与logistic模型的对比:
构造模型的四大步骤:
总体代码变化(与线性模型相比):
数据集方面:数据的输入y_data由2.0,4.0,6.0变成0,0,1;
模型方面:加了一个非线性变化;
损失方面:由MSE变为BCEL,即交叉熵;
训练方面:无变化;
模型结果:
通过图像可知,模型学习到:hours>2.5则为通过,否则不通过。
常见的一些激活函数:
如果要将激活函数改成ReLu函数,则只需改下面两个地方,改第二个地方是因为ReLu函数值可能为0,如果要算交叉熵的话会涉及log0,所以输入y时需要改成sigmoid函数。