pytorch实现感知机

单层感知机模型,每一个输入x与其权值w相乘求和然后加上一个偏置
在这里插入图片描述
权值w的编号,第一位是上一层的层数索引,第二位是下一层的索引
在这里插入图片描述
单层感知机的梯度推导
损失函数E:
在这里插入图片描述
对各个权值求导:
在这里插入图片描述
一步步向前求导可以得到关于x的导数

可以得到最终结果,梯度和O、输入x有关:
在这里插入图片描述
举例:十个输入,十个权值,一个输出:
要点1:指定要对谁求导,用requires_grad=True
要点2:因变量要是一个标量
要点3:用grad属性展示自变量的梯度大小

在这里插入图片描述

多分类感知机结构:

上标代表层数。
x的下标代表输入的标号索引
w的下标第一个数字代表连接上层的索引,第二个数字代表连接下层的索引
在这里插入图片描述
所以我们要求的就是E对所有的w求导的结果,知道后就可以得到所有w的更新梯度了。
在这里插入图片描述
多输出pytorch举例
在这里插入图片描述

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值