机器学习-logitstic回归

在这里插入图片描述
最后用sigmoid激活,这个过程就是logistic 回归
在这里插入图片描述
在这里插入图片描述
x1属于c1,那么fwb方程就是fwb(x1),x3属于c2,这不是c1则是1-fwb(x3),求出最大可能性的就是w和b
在这里插入图片描述
进行数学式上的转换,从找L(X)最大的,转换-log这样就是找最小的
在这里插入图片描述
在这里插入图片描述
把最小化的function写作一个对象
使用交叉熵,代表两个distribution有多接近
在这里插入图片描述
逻辑回归为什么不用平方差根
在这里插入图片描述
找最好的function

在这里插入图片描述

在这里插入图片描述
logistics regression 为什么不用均方差

在这里插入图片描述
距离目标远均方差微分小,一开始就卡主了,交叉熵梯度大。跑的快,用square来对
在这里插入图片描述

discriminative vs generative

logitiset是discrinmative,几率模型是generative
在这里插入图片描述
在这里插入图片描述
通常discriminative要高一点
在这里插入图片描述
dicriminative会受data量影响,data多error小,generative收data影响小
在这里插入图片描述

multi-class classification

softmax
在这里插入图片描述
max最大,softmax最大值强化。

在这里插入图片描述

limitation of logistic regression

在这里插入图片描述
画直线无法分类
在这里插入图片描述
在这里插入图片描述

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值