深度学习——07 快速搭建神经网络添加损失函数和优化器

交叉熵损失函数

loss = nn.CrossEntropyLoss()

优化器

optim = torch.optim.SGD(MyNet.parameters(),lr=0.01)
代码:

import torchvision
from torch.nn import Conv2d, MaxPool2d, Flatten, Linear, Sequential
from torch.utils.data import DataLoader
import torch.nn as nn
import torch

dataset_transform = torchvision.transforms.Compose([
    torchvision.transforms.ToTensor()
])
test_data = torchvision.datasets.CIFAR10(root="./test10_dataset", train=False, transform=dataset_transform)
test_loader = DataLoader(dataset=test_data, batch_size=128)

class MyNet(nn.Module):
    def __init__(self):
        super(MyNet, self).__init__()
        self.model1 = Sequential(
            Conv2d(in_channels=3, out_channels=32, kernel_size=5, padding=2),
            MaxPool2d(2),
            Conv2d(32, 32, 5, padding=2),
            MaxPool2d(2),
            Conv2d(32, 64, 5, padding=2),
            MaxPool2d(2),
            Flatten(),
            Linear(1024, 64),
            Linear(64, 10),
        )

    def forward(self, x):
        x = self.model1(x)
        return x

# 交叉熵损失函数
loss = nn.CrossEntropyLoss()
MyNet = MyNet()
# 优化器
optim = torch.optim.SGD(MyNet.parameters(),lr=0.01)
for epoch in range(20):
    running_loss = 0.0
    for data in test_loader:
        imgs, target = data
        output = MyNet(imgs)
        result_loss = loss(output,target)
        # 把每个可以调节梯度的梯度调为0
        optim.zero_grad()
        result_loss.backward()
        # 调优
        optim.step()
        running_loss = running_loss + result_loss
    print(running_loss)

训练20次,打印每次的损失:
在这里插入图片描述

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值