多分类-pytorch

import torch
from torch.utils.data import DataLoader
import torch.nn.functional as F
import numpy as np
import torch.optim as optim
from torchvision import transforms
from torchvision import datasets
batch_size = 64
transform = transforms.Compose([#像素值0~255,转变为0~1的值,且服从正态分布
    transforms.ToTensor(),#先转变成张量,取值0~1
    transforms.Normalize((0.1307,),(0.3081,))#0.1307均值,0.3081标准差,根据MNIST所有样本算出的
])
train_dataset = datasets.MNIST(root='../dataset/mnist/',
                               train=True,
                               download=True,
                               transform=transform)
train_loader = DataLoader(train_dataset,
                          shuffle=True,
                          batch_size=batch_size)
test_dataset = datasets.MNIST(root='../dataset/mnist/',
                              train=False,
                              download=True,
                              transform=transform)
test_loader = DataLoader(test_dataset,
                         shuffle=False,
                         batch_size=batch_size)

class Net(torch.nn.Module):
    def __init__(self):
        super(Net, self).__init__()
        self.l1 = torch.nn.Linear(784, 512)
        self.l2 = torch.nn.Linear(512, 256)
        self.l3 = torch.nn.Linear(256, 128)
        self.l4 = torch.nn.Linear(128, 64)
        self.l5 = torch.nn.Linear(64, 10)
    def forward(self,x):
        x = x.view(-1,784)
        x = F.relu(self.l1(x))
        x = F.relu(self.l2(x))
        x = F.relu(self.l3(x))
        x = F.relu(self.l4(x))
        return self.l5(x)

model = Net()

criterion = torch.nn.CrossEntropyLoss()
optimizer = optim.SGD(model.parameters(),lr=0.01,momentum=0.5)#momentum冲量

def train(epoch):
    running_loss = 0.0
    for batch_idx,data in enumerate(train_loader,0):
        inputs,target = data
        optimizer.zero_grad()

        outputs = model(inputs)
        loss = criterion(outputs,target)
        loss.backward()
        optimizer.step()

        running_loss += loss.item()
        if batch_idx%300==299:
            print('[%d,%5d] loss:%.3f'%(epoch+1,batch_idx+1,running_loss/300))
            running_loss = 0.0

def test():
    correct = 0
    total = 0
    with torch.no_grad():
        for data in test_loader:
            images,labels = data
            outputs = model(images)
            _,predicted = torch.max(outputs.data,dim=1)
            total +=labels.size(0)
            correct +=(predicted ==labels).sum().item()
    print('Accuracy on test set:%d %%'%(100*correct/total))


if __name__=='__main__':
    for epoch in range(10):
        train(epoch)
        test()

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
vit-pytorch是一个Python库,用于实现Vision Transformer(ViT)模型。ViT是一种基于Transformer架构的图像分类模型,它将图像分割成小的图像块,并使用Transformer编码器来学习图像的表示。ViT在计算机视觉任务中取得了很好的效果,特别是在图像分类任务中。 要使用vit-pytorch进行图像分类,首先需要安装该库。你可以按照官方提供的安装方法进行安装,链接为:https://lanzao.blog.csdn.net/article/details/101784059。 在使用vit-pytorch进行图像分类时,你需要创建一个VisionTransformer的实例,并在其初始化函数中设置一些参数。其中包括class token(用于表示整个图像的特殊标记)、dist token(用于蒸馏模型的特殊标记)和位置编码。位置编码是为了将图像块的位置信息引入模型中。 下面是一个示例代码,展示了如何使用vit-pytorch进行图像分类: ```python import torch import torch.nn as nn from vit_pytorch import VisionTransformer # 设置一些参数 num_patches = 16 # 图像分割成的图像块数量 embed_dim = 256 # 嵌入维度 drop_ratio = 0.1 # Dropout比率 distilled = False # 是否使用蒸馏模型 # 创建VisionTransformer实例 model = VisionTransformer( num_patches=num_patches, embed_dim=embed_dim, drop_ratio=drop_ratio, distilled=distilled ) # 输入图像数据 input_data = torch.randn(1, 3, 224, 224) # 假设输入图像大小为224x224,通道数为3 # 前向传播 output = model(input_data) # 输出分类结果 print(output) ``` 这是一个基本的使用vit-pytorch进行图像分类的示例。你可以根据自己的需求进行参数设置和模型调整。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值