机器学习06-Logistic回归

在这里插入图片描述

模型

在这里插入图片描述
假设函数: h θ ( x ) = g ( z ) = 1 1 + e − z h_\theta(x)= g(z) = \frac{1}{1+e^{-z}} hθ(x)=g(z)=1+ez1
z = θ T x z = \theta^Tx z=θTx
在这里插入图片描述
h θ ( x ) h_\theta(x) hθ(x)为给出x, θ \theta θ的情况下的概率。
在这里插入图片描述
该概率大于等于 50 % 50\% 50%,y =1;小于 50 % 50\% 50%,y=0。

决策边界(Decision boundary)

如图,假定 − 3 + x 1 + x 2 ≥ 0 -3+x_1+x_2\ge0 3+x1+x20时,预测的y值等于1,此时,做直线 − 3 + x 1 + x 2 = 0 -3+x_1+x_2=0 3+x1+x2=0 ( x 1 , x 2 ) (x_1,x_2) (x1,x2)在直线上半部分y = 1,下半部分y = 0。
在这里插入图片描述
通过在特征中增加复杂的多项式可以得到更复杂的决定边界。
在这里插入图片描述

拟合参数

在这里插入图片描述
y=1时, h θ ( x ) h_\theta(x) hθ(x) = 1,cost = 0,说明预测对了; h θ ( x ) h_\theta(x) hθ(x) = 1,cost → ∞ \rightarrow\infty ,说明预测错了。
在这里插入图片描述
y=0时, h θ ( x ) h_\theta(x) hθ(x) = 0,cost = 0,说明预测对了; h θ ( x ) h_\theta(x) hθ(x) = 1,cost → ∞ \rightarrow\infty ,说明预测错了。

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

算法思路:

在这里插入图片描述

梯度算法的可替代算法

在这里插入图片描述

高级算法的使用

在这里插入图片描述

训练logistic回归划分类别

在这里插入图片描述

三个分类器分别输入x,选择出三个类别中可信度最高、效果最好的分类器,得到的最高值就是y的预测值

过拟合,欠拟合

线性回归
在这里插入图片描述

过拟合解决办法

在这里插入图片描述

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值