多层感知机的从零开始实现
现在自己实现一个多层感知机。
为了与之前softmax回归 获得的结果进行比较, 将继续使用Fashion-MNIST图像分类数据集
import torch
from torch import nn
from d2l import torch as d2l
batch_size = 256
train_iter, test_iter = d2l.load_data_fashion_mnist(batch_size)
初始化模型参数
Fashion-MNIST中的每个图像由 28×28=784个灰度像素值组成,所有图像共分为10个类别。
忽略像素之间的空间结构, 我们可以将每个图像视为具有784个输入特征 和10个类的简单分类数据集。
首先,我们将实现一个具有单隐藏层的多层感知机, 它包含256个隐藏单元。
注意,我们可以将这两个变量都视为超参数。
通常,我们选择2的若干次幂作为层的宽度。 因为内存在硬件中的分配和寻址方式,这么做往往可以在计算上更高效。
我们用几个张量来表示我们的参数。
注意,对于每一层我们都要记录一个权重矩阵和一个偏置向量。 我们要为损失关于这些参数的梯度分配内存。
num_inputs, num_outputs, num_hiddens = 784, 10, 256 #num_inputs, num_outputs这两个参数都是由数据决定的,num_hiddens这个是隐藏层超参数
W1 = nn.Parameter(torch.randn(#nn.Parameter这个加不加都没关系,是声明是torch的一个parameter
num_inputs, num_hiddens, requires_grad=True) * 0.01)#num_inputs, num_hiddens行数是784,列数是256
b1 = nn.Parameter(torch.zeros(num_hiddens