b站刘二大人----逻辑斯蒂回归

本文介绍了逻辑斯蒂回归在分类问题中的应用,尽管名字中含有“回归”,但实际上它用于概率预测。逻辑斯蒂函数,也称为sigmoid函数,将数值映射到0-1之间,常用于二分类问题。文章对比了线性模型与逻辑斯蒂回归模型的区别,并详细阐述了模型构建的四个步骤:数据预处理、非线性转换、损失函数(交叉熵)的使用和模型训练。此外,还探讨了激活函数如ReLU的替换方法,并列举了一些常见的激活函数。
摘要由CSDN通过智能技术生成

逻辑斯蒂回归:

虽然名字是回归,但是做的是分类。分类问题输出的是概率。

逻辑斯蒂函数:

表达式:

图像:

作用:将函数值映射到0-1之间

特点:属于sigmoid函数之一,由于logistic函数是sigmoid函数中最出名的函数,故很多时候称logistic函数为sigmoid函数。其他的sigmoid函数如下(画圈的常用于循环神经网络):

---sigmoid函数:①增函数②函数值在0到1之间③饱和函数

 如果你在论文或者书中发现下面这个希格玛符号,则为logistic函数,

线性模型与logistic模型的对比:

 

构造模型的四大步骤:

总体代码变化(与线性模型相比):

数据集方面:数据的输入y_data由2.0,4.0,6.0变成0,0,1;

模型方面:加了一个非线性变化;

损失方面:由MSE变为BCEL,即交叉熵;

训练方面:无变化;

 模型结果:

通过图像可知,模型学习到:hours>2.5则为通过,否则不通过。

 常见的一些激活函数:

如果要将激活函数改成ReLu函数,则只需改下面两个地方,改第二个地方是因为ReLu函数值可能为0,如果要算交叉熵的话会涉及log0,所以输入y时需要改成sigmoid函数。

 

 

 

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值