逻辑回归学习笔记

最新推荐文章于 2024-07-21 14:23:07 发布

唯颜是爱

最新推荐文章于 2024-07-21 14:23:07 发布

阅读量80

点赞数

文章标签：机器学习逻辑回归

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/qq_41055843/article/details/112169567

版权

逻辑回归学习笔记

目标：建立分类器（求解参数 $\theta$ ）

设定阈值，根据阈值判断结果

要完成的模块

sigmoid：映射到概率的函数

$g(z)=\frac{1}{1+e^{-z}}$ ，z为model函数值

model：返回预测结果值

$y=\theta^T X$

cost:根据参数计算损失

$D(h_{\theta }(x), y)=-ylog(h_{\theta}(x))-(1-y)log(1-h_{\theta}(x)),h_\theta(x)$ 为sigmoid函数值

求平均损失

$J(\theta)=\frac{1}{n}\sum^{n}_{i=1}D(h(\theta)(x_i),y_i)$

gradient: 计算每个参数的梯度方向

$\frac{\partial J}{\partial \theta_j}=-\frac{1}{m}\sum_{i=1}^n(y_i-h_\theta(x_i))x_i_j$

descent：进行参数更新

$\theta_j=\theta_j-\alpha\frac{1}{m}\sum_{i=1}^m(h_\theta(x_i)-y_i)x_i_j$

accuracy：计算精度

设定停止策略：

STOP_ITER=0：迭代thresh次

STOP_COST=1：迭代过程中损失小于thresh

STOP_GRAD=2：迭代过程中梯度小于thresh

缺点：对数据严格线性不可分的情况无能为力

关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
逻辑回归学习笔记

逻辑回归学习笔记目标：建立分类器（求解参数）设定阈值，根据阈值判断结果要完成的模块sigmoid：映射到概率的函数 model：返回预测结果值 cost:根据参数计算损失求平均损失 gradient: 计算每个参数的梯度方向 descent：进行参数更新 ac...
复制链接

扫一扫

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。