李沐动手深度学习09：Softmax回归、损失函数、分类

仁公智能

于 2024-08-01 08:21:55 发布

阅读量339

点赞数 5

分类专栏：深度学习文章标签：深度学习回归分类

本文链接：https://blog.csdn.net/lmessi10_/article/details/140822484

版权

深度学习专栏收录该内容

3 篇文章 0 订阅

订阅专栏

import torch
from torch import nn
from d2l import torch as d2l

batch_size = 256
train_iter, test_iter = d2l.load_data_fashion_mnist(batch_size)

# Softmax回归的输出是一个全连接层
# PyTorch不会隐式地调整输入的形状
# 因此，我们定义了展平层(flatten)在线性层前调整网络输入的形状
net = nn.Sequential(nn.Flatten(),nn.Linear(784,10))

def init_weights(m):
    if type(m) == nn.Linear:
        nn.init.normal_(m.weight, std=0.01) # 方差为0.01

net.apply(init_weights)
print(net.apply(init_weights)) # net网络的参数用的是init_weights初始化参数

# 在交叉熵损失函数中传递未归一化的预测，并同时计算softmax及其对数
loss = nn.CrossEntropyLoss()
# 使用学习率为0.1的小批量随即梯度下降作为优化算法
trainer = torch.optim.SGD(net.parameters(),lr=0.1)

num_epochs = 10
d2l.train_ch6(net,train_iter,test_iter,loss,num_epochs,trainer)