动手学PyTorch(李沐)3 ---- 感知机

感知机是一种用于二分类问题的基础模型,其通过调整权重w和偏置b来实现分类。在训练过程中,如果yi乘以(w与xi的内积+b)的结果大于0,则分类正确,否则需要更新参数。梯度更新策略确保了模型在错误分类时进行调整。当存在足够的样本间隔ρ时,感知机可以收敛。文章还探讨了模型的收敛速度与样本类别差异的关系。
摘要由CSDN通过智能技术生成

感知机

σ函数有很多种选择,条件函数可以根据需要调整

二分类问题:-1 or 1

二分类:

Vs.回归输出实数

Vs.SoftMax回归输出概率()多分类

训练感知机

​ *对于二分类问题,样本yi乘以(w与xi的内积加上b)的结果,如果是大于0,则证明预测和实际相符,如果小于0,则表示分类分错了,需要调整更新参数。w = w + yixi , b = b + yi

	**感知机最原始的训练就是一遍一遍去遍历原始数据**

对于梯度来说,使用了max函数,如果 y<w,x> 大于 0,则分类正确,不用调整参数,添加负号则小于 0,要达到不调整参数的目的,需要使得梯度为 0。如果分类错误,那么就产生了梯度,需要更新梯度。

收敛定理

存在余量ρ>0,使得感知机能把所有的样本分开。如果ρ越大,表示数据样本类别差异越明显,那么模型收敛越快。

总结


  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值