softmax回归的简洁实现

该博客介绍了如何使用PyTorch进行Fashion MNIST数据集的softmax回归模型训练。首先,获取和读取数据,设置批量大小为256。接着,定义了一个LinearNet模型,包含一个FlattenLayer和一个全连接层,并使用正态分布初始化权重。模型训练部分,定义了交叉熵损失函数和SGD优化器,然后进行5个周期的训练。
摘要由CSDN通过智能技术生成
import torch
from torch  import nn
from torch.nn import init
import numpy as np
import sys
sys.path.append("..")
import painting as pt

#1.获取和读取数据
batch_size=256
train_iter,test_iter=pt.load_data_fashion_mnist(batch_size)

"""
softmax回归的输出层是一个全连接层,因此用一个线性模块就行,由于前面我们数据
返回的每个batch样本x的形状为(batch_size,1,28,28),因此要先用view()将x的
形状转换成(batch_size,784)才送入全连接层
"""
#2.定义和初始化模型
num_inputs=784
num_outputs=10

class LinearNet(nn.Module):
    def __init__(self,num_inputs,num_outputs):
        super(LinearNet, self).__init__()
        self.linear=nn.Linear(num_inputs,num_outputs)
    def forward(self,x): # x shape:(batch,1,28,28)
        y=self.linear(x.view(x.shape[0],-1))
        return y

net=LinearNet(num_inputs,num_outputs)
#我们将对x的形状转换的这个功能自定义一个FlattenLayer并记录在painting中方便以后使用
class FlattenLayer(nn.Module):
    def __init__(self):
        super(FlattenLayer, self).__init__()
    def forward(self, x): # x shape:(batch,*,*,...)
        return x.view(x.shape[0],-1)
#3.这样就可以更方便的定义我们的模型
from collections import OrderedDict
net=nn.Sequential(
    #FlattenLayer(),
    #nn.Linear(num_inputs,num_outputs)
    OrderedDict([
        ('flatten',FlattenLayer()),
        ('linear',nn.Linear(num_inputs,num_outputs))
    ])
)
#然后我们使用均值为0、标准差为0.01的正态分布随机初始化模型的权重参数
init.normal_(net.linear.weight,mean=0,std=0.01)
init.constant_(net.linear.bias,val=0)

#4.softmax和交叉熵损失函数
loss=nn.CrossEntropyLoss()

#5.定义优化算法
optimizer=torch.optim.SGD(net.parameters(),lr=0.1)

#6.训练模型
num_epochs=5
pt.train(net,train_iter,test_iter,loss,num_epochs,batch_size,None,None,optimizer)



 

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值