小白也能看懂的pytorch——多层感知机(简洁版)

本文面向没有编程基础的读者,通过PyTorch的高级API解释了如何构建和训练一个多层感知机,包括使用Flatten转换数据维度,定义线性层与ReLU激活函数,以及初始化权重和训练过程。文章使用了Fashion_MNIST数据集,通过CrossEntropyLoss损失函数和SGD优化器进行模型训练。
摘要由CSDN通过智能技术生成

前言:本篇文章的服务对象是没有武力值也想和pytorch沾沾边的小白朋友们,主要的内容是对于经典代码的逐行解读,解读内容以注释的形式展示。

本篇文章的代码来源为(李沐 动手学深度学习pytorch版)

本篇文章是通过调用深度学习的高级API实现多层感知机,确实很简洁。

简洁实现,数据是3D的我们需要将其使用Flatten()函数变为二维的,

先是第一层,调用一个线性层(Linear)定义输入输出的大小,加入激活函数(ReLU)

再调用一个线性层(Linear)作为输出层(第二层)

import torch
from torch import nn
from d2l import torch as d2l

net = nn.Sequential(nn.Flatten(),
                    nn.Linear(784, 256),
                    nn.ReLU(),
                    nn.Linear(256, 10))

定义了初始化权重的函数,对数据进行初始化。

# 下文是定义了一个初始化权重的函数
def init_weights(m):
    if type(m) == nn.Linear: # ==条件,类型是Linear
        nn.init.normal_(m.weight, std=0.01)  # 均值为0,方差为0.01的随机初始化权重
net.apply(init_weights)

下面是训练过程,定义批量大小,学习率,训练轮次

用CrossEntropyLoss做损失,用SGD做随机小批量梯度下降

然后把数据提取出来,并用在之前文章中定义的train_ch3函数进行训练,该函数中包含对于结果的展示。

batch_size, lr, num_epochs = 256, 0.1, 10
loss = nn.CrossEntropyLoss(reduction='none')
trainer = torch.optim.SGD(net.parameters(), lr=lr)

train_iter, test_iter = d2l.load_data_fashion_mnist(batch_size)
d2l.train_ch3(net, train_iter, test_iter, loss, num_epochs, trainer)

不难看出,在实现的过程中,多层感知机和softmax的实现流程没什么区别,最大的区别就是增加的激活函数和隐藏层。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值