单层感知机模型,每一个输入x与其权值w相乘求和然后加上一个偏置
权值w的编号,第一位是上一层的层数索引,第二位是下一层的索引
单层感知机的梯度推导
损失函数E:
对各个权值求导:
一步步向前求导可以得到关于x的导数
可以得到最终结果,梯度和O、输入x有关:
举例:十个输入,十个权值,一个输出:
要点1:指定要对谁求导,用requires_grad=True
要点2:因变量要是一个标量
要点3:用grad属性展示自变量的梯度大小
多分类感知机结构:
上标代表层数。
x的下标代表输入的标号索引
w的下标第一个数字代表连接上层的索引,第二个数字代表连接下层的索引
所以我们要求的就是E对所有的w求导的结果,知道后就可以得到所有w的更新梯度了。
多输出pytorch举例