周志华《机器学习》Ch3. 线性模型：对数几率回归的python实现

最新推荐文章于 2022-01-18 15:02:22 发布

da_kao_la

最新推荐文章于 2022-01-18 15:02:22 发布

阅读量3.7k

点赞数 3

分类专栏： Python Machine Learning 周志华《机器学习》读书笔记文章标签：西瓜书机器学习 python Logistic回归

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/da_kao_la/article/details/81908154

版权

理论

“对数几率模型”就是常说的Logistic回归，是一个经典的线性模型。考虑二分类任务，其输出标记 $y\in\{0,1\}$ ，而线性回归模型产生的预测值 $z = \mathbf{w}^T\mathbf{x}+b$ 是连续分布的实数，需要一个阶跃函数 $y = step(z)$ 将连续值映射为离散二值。用一个对数几率函数 $y = \frac{1}{1+e^{-z}}$ 近似阶跃函数，得到 $ln\frac{y}{1-y}=\mathbf{w}^T\mathbf{x}+b$ 。从而y和1-y可以分别视为类后验概率 $p(y=1|\mathbf{x})$ 和 $p(y=0|\mathbf{x})$ ，简记为 $p_1(\mathbf{x})$ 和 $p_0(\mathbf{x})$ 。

训练时，用极大似然法估计模型参数

最低0.47元/天解锁文章

关注

3
点赞
踩
21

收藏

觉得还不错? 一键收藏
0
评论
周志华《机器学习》Ch3. 线性模型：对数几率回归的python实现

理论 “对数几率模型”就是常说的Logistic回归，是一个经典的线性模型。考虑二分类任务，其输出标记，而线性回归模型产生的预测值是连续分布的实数，需要一个阶跃函数将连续值映射为离散二值。用一个对数几率函数近似阶跃函数，得到。从而y和1-y可以分别视为类后验概率和，简记为和。训练时，用极大似然法估计模型参数和. 对给定的数据集，对数几率模型最大化对数似然函数. 令,...
复制链接

扫一扫

专栏目录

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。