第9章 逻辑回归

逻辑回归:实际解决分类问题

回归怎么解决分类问题?将样本的特征和样本发生的概率联系起来,概率是一个数,由于概率是一个数,所以可以管它叫做回归问题。对于机器学习算法来说,本质就是 求出一个函数小f,如果此时有一个样本x,经过f的运算之后就会得到一个预测值,通常称之为y。y的值实际上就是本身我们关心的那个指标。但是在逻辑回归中,我们得到的y的值本质是一个概率值。如果我们不进行最后一步根据p的值进行分类的操作的话,那么他此时就是一个回归算法(我们计算出的是:我们通过一个样本的特征来拟合计算一个事件发生的概率);那么我们通过这个概率就可以进一步给他分类

 多分类问题逻辑回归本身是不支持的(当然可以使用一些其他的技巧进行改进),KNN算法天生可以支持多分类问题

,

, 

 

 

 

 

 逻辑回归损失函数的梯度求解(梯度下降法)

 

 

 

 

 

, 

 

 

 

, 

 

 在逻辑回归中使用多项式特征

 防止过拟合:使用正则化方法

  

,另一种正则化方法:

 

 

 

 

 

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值