简单的单层感知机梯度计算和梯度更新的pyTorch代码
单层感知机模型:
每个输入节点xi与相应的权值wi相乘,然后再l累加,最后再加上一个偏置值b,得到预测值,其数学模型如下:
对于单层感知机,其激活函数是sign函数,但是他是不可导的,这里更换为sigmoid函数。
代码:
import torch
from torch.nn import functional as F
x = torch.randn(1, 10
简单的单层感知机梯度计算和梯度更新的pyTorch代码
单层感知机模型:
每个输入节点xi与相应的权值wi相乘,然后再l累加,最后再加上一个偏置值b,得到预测值,其数学模型如下:
对于单层感知机,其激活函数是sign函数,但是他是不可导的,这里更换为sigmoid函数。
代码:
import torch
from torch.nn import functional as F
x = torch.randn(1, 10