2020/12/09 06-机器学习逻辑回归算法实现与应用3

最新推荐文章于 2022-10-20 17:11:28 发布

48N6E

最新推荐文章于 2022-10-20 17:11:28 发布

阅读量94

点赞数

分类专栏：选修python

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/qq_42227818/article/details/110940089

版权

选修python 专栏收录该内容

16 篇文章 0 订阅

订阅专栏

现在就写第二个模型，损失函数
在这里插入图片描述
loss实际上是把求w的过程变成求概率越大，损失越小

线性回归求解损失函数使用MSE，最小二乘法

这几个算法其实逻辑差不多

在这里插入图片描述
避免算出的极小值不靠谱，就有凸优理论

在这里插入图片描述
梯度下降并不是一个精确值，但是+w，和-w就要判断导数的正负数在哪里

在这里插入图片描述

梯度下降在右边就是负的，减号
在这里插入图片描述

损失函数写好，就是小写的l

也可以用大写的L

求导数

线性回归和逻辑回归，其实最小值的求法，都是通用的

也可以表达成下面两种模型

在这里插入图片描述
只要是梯度下降，都要一套通用的模型

3种实现方式

在这里插入图片描述
sklearn的线性回归放到了linear_model，加载鸢尾花的数据，数据是150个

分三类，0，1，2

在这里插入图片描述
sklearn里有显示逻辑回归是如何实现的

在这里插入图片描述

c=10e10 10的10次方，最大迭代值max_iter。然后注入数据训练

会发现，这个结果。完全可以从概率模型算出来

在这里插入图片描述
完全可以直接打分，识别率可以达到100%

50到150，有1个样本其实是有误差的，100个样本里有2个是错的

在这里插入图片描述
A类是可以完全分开的，BC类不太好

在这里插入图片描述
取1个特征

关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
2020/12/09 06-机器学习逻辑回归算法实现与应用3

现在就写第二个模型，损失函数loss实际上是把求w的过程变成求概率越大，损失越小线性回归求解损失函数使用MSE，最小二乘法这几个算法其实逻辑差不多避免算出的极小值不靠谱，就有凸优理论梯度下降并不是一个精确值，但是+w，和-w就要判断导数的正负数在哪里梯度下降在右边就是负的，减号损失函数写好，就是小写的l也可以用大写的L...
复制链接

扫一扫

专栏目录

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。