【pytorch】从入门到入门 小土堆

已于 2022-04-21 21:16:33 修改
阅读量3.2k 收藏 19
点赞数 4
分类专栏： 深度学习 文章标签： pytorch python 深度学习
于 2022-01-19 21:24:51 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_44173974/article/details/122587985
版权

文章目录

一、起步

  • anacondar的安装
  • 虚拟环境的创建 conda create -n pytorch python=3.7.0
  • pytorch的安装，上pytorch官网复制命令即可本人是使用conda安装 cpu环境的
    在这里插入图片描述
  • opencv的安装 conda install -c https://conda.anaconda.org/menpo opencv
  • 编码环境：pycharm、jupyternotebook、和pycharm内置的python控制台
  • 学习法宝：dir()函数和help()函数

pycharm快捷键：

  • ctrl+p 显示参数

二、学习

加载数据集:

  • Dataset ->提供一种方式去获取数据及其label
  • Dataloader->为后面的网络提供不同的数据形式

练习DataSet的使用，创建自己的数据集类别

数据集没有对应的label标签 直接使用文件夹名作为标签

数据集形式为：
在这里插入图片描述

学习代码为：

from torch.utils.data import Dataset
import os
from PIL import Image


# 数据集类 必须继承Dataset 实现__getitem__（获取每一个数据及其label）和__len__方法（一共有多少数据）
class MyData(Dataset):
    # root_dir是训练集 label_dir是本来应该是label文件夹 但是由于这个文件夹的label就是文件夹名称 就更方便了
    def __init__(self,root_dir,label_dir):
        # self相当于创建类的成员变量
        self.root_dir=root_dir
        self.label_dir=label_dir
        # 图片集合的路径
        self.path=os.path.join(self.root_dir,self.label_dir)
        # 存放所有图片名称的集合
        self.img_path_list=os.listdir(self.path)
    def __getitem__(self, idx):
        img_name=self.img_path_list[idx]
        img_item_path=os.path.join(self.path,img_name)
        img=Image.open(img_item_path)
        # 因为label就是文件夹的名字
        label=self.label_dir
        return img,label
    def __len__(self):
        return len(self.img_path_list)
root_dir="dataset/train"
ants_label_dir="ants"
bees_label_dir="bees"
ants_dataset=MyData(root_dir,ants_label_dir)
bees_dataset=MyData(root_dir,bees_label_dir)
train_dataset=ants_dataset+bees_dataset

标准的数据集 两个文件夹下的jpg文件和txt文件一一对应

数据集形式为：
在这里插入图片描述
学习代码为：

from torch.utils.data import Dataset
from PIL import Image
import os

class MyData(Dataset):
    def __init__(self,root_dir,data_dir,label_dir):
        self.root_dir=root_dir
        self.data_dir=data_dir
        self.label_dir=label_dir
        self.img_path=os.path.join(self.root_dir,self.data_dir)
        self.img_path_list=os.listdir(self.img_path)
    def __getitem__(self, idx):
        img_name=self.img_path_list[idx]
        img_item_path=os.path.join(self.img_path,img_name)
        img=Image.open(img_item_path)
        label_item_path = os.path.join(self.img_path, img_name)
        with open(label_item_path, "r") as f:
            label = f.read()
        return img,label
    def __len__(self):
        return len(self.img_path_list)

root_dir="dataset2\\train"
ants_data_dir="ants_image"
ants_label_dir="ants_label"
bees_data_dir="bees_image"
bees_label_dir="bees_label"
ants_dataset=MyData(root_dir,ants_data_dir,ants_label_dir)
bees_dataset=MyData(root_dir,bees_data_dir,bees_label_dir)
train_dataset=ants_dataset+bees_dataset

tensorboard相关

安装 tensorboard：pip install tensorboard

write.add_scalar

使用：

from torch.utils.tensorboard import SummaryWriter

write =SummaryWriter("logs")
for i in range(100):
    # 常用参数 前三个 标题 y轴 x轴
    write.add_scalar("y=x",i,i)

write.close()

打开生成的文件,当前目录下：tensorboard --logdir=logs --port=6007 这个logs就是创建SummaryWriter实例时候传入的文件名
在这里插入图片描述
在这里插入图片描述

write.add_image()

使用：

from torch.utils.tensorboard import SummaryWriter
import cv2
import numpy as np

write =SummaryWriter("logs")

# 我们之前使用PIL.image读图片 读出来是PLT巴拉巴拉类型的 但是这里的图片要numpy型的 只能用opencv读了
img_path="dataset/train/bees/16838648_415acd9e3f.jpg"
img=cv2.imread(img_path)
# img.shape ->(512, 768, 3)分别是高度 宽度 通道 按照函数的要求 添加参数dataformats='HWC'
write.add_image("test",img,1,dataformats='HWC')

write.close()

效果：
在这里插入图片描述

Transforms相关

核心作用：将一些图片进行特定的图片变换
常用类：

ToTensor 作用：Convert a PIL Image or numpy.ndarrayto tensor
ToPILImage作用：Convert a tensor or an ndarray to PIL Image
Resize：Resize the input image to the given size

小案例：

import cv2
from torch.utils.tensorboard import SummaryWriter
from torchvision import transforms

img_path="dataset/train/ants/0013035.jpg"
img=cv2.imread(img_path)
# 1、使用ToTensor类
to_tensor=transforms.ToTensor()
# tensor_img=to_tensor(img) 也行 因为是call
tensor_img=to_tensor.__call__(img)
# 2、tensor作用：包装了神经网络理论基础的一些参数

write = SummaryWriter("logs")
write.add_image("tensor_img",tensor_img)
write.close()

效果：
在这里插入图片描述
在这里插入图片描述

使用torch自带的数据集

import torchvision
from torch.utils.tensorboard import SummaryWriter

dataset_transform=torchvision.transforms.Compose([
    torchvision.transforms.ToTensor()
])

train_set =torchvision.datasets.CIFAR10("./dataset",train=True,transform=dataset_transform,download=True)
test_set =torchvision.datasets.CIFAR10("./dataset",train=False,transform=dataset_transform,download=True)

write=SummaryWriter("logs")
for i in range(10):
    img,target = test_set[i];
    write.add_image("test_set",img,i)
write.close()

DataLoader

常见参数：dataset是我们准备的数据集，batch_size是一次取几个数据，shuffle：每次数据顺序是否相同，num_workers：几个进程(默认值为0 多个进行在windows下可能会有问题)，drop_last是否舍去最后的余数

import torchvision
from torch.utils.data import DataLoader
from torch.utils.tensorboard import SummaryWriter


test_set =torchvision.datasets.CIFAR10("./dataset",train=False,transform=torchvision.transforms.ToTensor(),download=True)

test_loader=DataLoader(dataset=test_set,batch_size=4,shuffle=True,num_workers=0,drop_last=False)

write=SummaryWriter("logs")
step=0
for data in test_loader:
    imgs,targets = data
    write.add_images("test_loader",imgs,step)
    step+=1

write.close()

Module

超级无敌简单的神经网络：

import torch
import torch.nn as nn

class MyModule(nn.Module):
    def __init__(self) -> None:
        super().__init__()
    def forward(self, x):
        return x+1
myModule=MyModule()
x=torch.tensor(1.0)
output = myModule(x)
print(output)

卷积小解释：

卷积就是卷积核在输入图像中移动，每一次卷积核覆盖的位置值和卷积核的值相乘 作为输出，如图像是55的矩阵，卷积核是33的矩阵，他们不断相乘再相加作为输出，输出完之后卷积核移动到下一个位置，继续相乘再相加作为输出
这个移动的步数就是CONV2D中的参数stride ，一个值就是横向和纵向的步数，一个元组就是两个值分别对应横向移动和纵向移动

在这里插入图片描述

import torch
import torch.nn.functional as F

input=torch.tensor([
    [1,2,0,3,1],
    [0,1,2,3,1],
    [1,2,1,0,0],
    [5,2,3,1,1],
    [2,1,0,1,1]
])
kernel=torch.tensor([
    [1,2,1],
    [0,1,0],
    [2,1,0]

])
# 因为CONV2D要求输入的tensor 是4维的 而我们创建的是二维的所以需要用变换一下
# (1,1,5,5)表示一个通道、batch_size=1、数据是5*5
input=torch.reshape(input,(1,1,5,5))
kernel=torch.reshape(kernel,(1,1,3,3))

output=F.conv2d(input,kernel,stride=1)
print(output)

三、最后总结

模型训练套路

模型结构：
在这里插入图片描述
模型：

import torch
from torch import nn


class CNN(nn.Module):
    def __init__(self) -> None:
        super().__init__()
        self.model = nn.Sequential(
            # 目标从3通道32*32经过卷积得到32通道32*32 带入公式N=(W-F+2P)/S+1 即(32-5+2padding)/1+1=32 得padding=2
            nn.Conv2d(in_channels=3, out_channels=32, kernel_size=5, stride=1, padding=2),
            # 最大池化 得到32通道16*16
            nn.MaxPool2d(2),

            # 目标从32通道16*16经过卷积得到32通道16*16 带入公式N=(W-F+2P)/S+1 即(16-5+2padding)/1+1=16 得padding=2
            nn.Conv2d(in_channels=32, out_channels=32, kernel_size=5, stride=1, padding=2),
            # 最大池化 得到32通道8*8
            nn.MaxPool2d(2),

            # 目标从32通道8*8经过卷积得到64通道8*8 带入公式N=(W-F+2P)/S+1 即(8-5+2padding)/1+1=8 得padding=2
            nn.Conv2d(in_channels=32, out_channels=64, kernel_size=5, stride=1, padding=2),
            # 最大池化 得到64通道4*4
            nn.MaxPool2d(2),

            # 展平为64*4*4的一维向量
            nn.Flatten(),

            # 全连接
            nn.Linear(64 * 4 * 4, 64),
            nn.Linear(64, 10)
        )

    def forward(self, x):
        x=self.model(x)
        return x

if __name__ == '__main__':
    cnn = CNN()
    # 输出是一组64张图片 三通道 尺寸是32*32
    input=torch.ones((64,3,32,32))
    # 返回为torch.Size([64, 10]) 即64张图片 每张图片在10个类别中的概率
    output=cnn(input)

训练：

import torch.optim
import torchvision
from torch import nn
from torch.utils.data import DataLoader
from torch.utils.tensorboard import SummaryWriter

from model import CNN

# 准备数据集

train_data=torchvision.datasets.CIFAR10(root="./dataset",train=True,transform=torchvision.transforms.ToTensor(),download=True)

test_data=torchvision.datasets.CIFAR10(root="./dataset",train=False,transform=torchvision.transforms.ToTensor(),download=True)

train_loader=DataLoader(dataset=train_data,batch_size=64,shuffle=True)
test_loader=DataLoader(dataset=test_data,batch_size=64,shuffle=True)


# 搭建网络模型
cnn=CNN()

# 损失函数 选择交叉熵
loss_fun=nn.CrossEntropyLoss()

#优化器选择 随机梯度下降
learning_rate=0.01
optimizer=torch.optim.SGD(cnn.parameters(),lr=learning_rate)

# 训练网络的一些参数
total_train_step=0 # 训练的次数
total_test_step=0 # 测试的次数
epoch=10 # 训练的轮数

# 添加tensboard
writer=SummaryWriter("./logs")

for i in range(epoch):
    print("第{}轮训练开始".format(i+1))
    # 标志开始训练只对某些层管用
    torch.train()
    for data in train_loader:
        imgs,targets=data
        outputs=cnn(imgs)
        loss=loss_fun(outputs,targets)

        # 梯度清零 损失反向传播 然后优化参数
        optimizer.zero_grad()
        loss.backward()
        optimizer.step()
        total_train_step+=1
        # loss是一个tensor 使用item方法得到真实的值 如 loss是tensor(5),loss.item()就是5
        if total_train_step%100==0:
            print("训练次数为{}时，损失为{}".format(total_train_step, loss.item()))
            writer.add_scalar("train_loss",loss.item(),total_train_step)

    # 测试每一轮训练之后 在测试集上的损失 因为只是测试 不需要对梯度进行调整
    torch.eval() # 标志开始测试 只对某些层管用
    total_test_loss=0
    with torch.no_grad():
        for data in test_loader:
            imgs, targets = data
            outputs = cnn(imgs)
            loss = loss_fun(outputs, targets)
            total_test_loss+=loss.item()
    print("第{}轮训练结束之后 测试集上的整体损失为{}".format(i+1,total_test_loss))
    total_test_step+=1
    writer.add_scalar("test_loss", total_test_loss, total_test_step)

    # 保存每一轮训练的模型
    torch.save(cnn,"./path/cnn_{}_path".format(i))
    print("模型已经保存")

writer.close()

结果
在这里插入图片描述

模型验证

import torch
import torchvision
from PIL import Image

from model import CNN

image = Image.open("./imgs/002.png")
image=image.convert("RGB")

transform =torchvision.transforms.Compose([
    torchvision.transforms.Resize((32,32)),
    torchvision.transforms.ToTensor()
])

image=transform(image)
# 这个image是3通道的32*32没有batch_size 给他加上
image=torch.reshape(image,(1,3,32,32))
cnn=torch.load("path/cnn_9_path")


cnn.eval()
with torch.no_grad():
    output=cnn(image)
print(output.argmax(1))
# 输出是tensor([3]) 而第三个类别是猫 没有预测准确 害
可乐大牛
关注
  • 4
    点赞
  • 踩
  • 19
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
pytorch入门教程（小土堆
linyuxi_loretta的博客
11-16 788
pytorch入门教程、一些基础函数的概念（参考代码），主要是带着读了一遍pytorch官方文档、另外推荐一个网站 www.paperswithcode.com，感觉很厉害的样子。
小土堆-pytorch
2301_77824555的博客
12-15 1222
小土堆学习
小土堆pytorch深度学习记录
最新发布
weixin_45803006的博客
05-31 852
b站小土堆深度学习课程学习记录
土堆pytorch教程学习笔记 （所有代码笔记超详细完整版）
tlytjj的博客
11-16 1022
目录一. read_data二. dataloader三. transforms四。五. conv六.conv2d七.loss八.linear九.loss-network十.pool十一.RELU十二.sqc十三.test-tensorboard十四.optim十五.model十六.test-modle十七.model-pretained十八.model-save十九.model-load二十.train二十一.train-gpu1。
跟着小土堆学习pytorch
qq_51216777的博客
12-12 227
跟着小土堆学习pytorch
超细致小土堆的pytorch基础学习笔记
2302_80183131的博客
04-28 2212
这是我学习玩小土堆的pytorch之后总结的超细致的笔记
Tensorboard的使用（一）writer.add_scalar()，SummaryWriter()
rensweet的博客
12-23 7920
1、相关知识 环境与版本 win10系统 torch --> 1.8.0 tensorboard -->2.4.1 writer.add_scalar() 解释： 二、实例展示-绘制y=2x 1、打开pycharm，选择环境 操作如下图，选择包含pytorch的环境 2、输入以下代码 from torch.utils.tensorboard import SummaryWriter #生成一个写日志的writer，并将当前的计算图...
PyTorch从入门到实战一次学会
06-17
本课程从pytorch安装开始讲起，从基本计算结构到深度学习各大神经网络，全程案例代码实战，一步步带大家入门如何使用深度学习框架pytorch，玩转pytorch模型训练等所有知识点。最后通过 kaggle 项目：猫狗分类，实战...
PyTorch框架入门PPT
10-28
《PyTorch框架入门PPT》是一份专为初学者设计的深度学习教程，它以PyTorch这一流行的人工智能框架为主要内容，旨在帮助学习者快速掌握PyTorch的基本概念和操作。PyTorch是Facebook公司开源的一个强大的深度学习平台...
Pytorch入门到精通全教程.rar
05-15
《PyTorch入门到精通全教程》是一套全面且深入的PyTorch学习资源，旨在帮助初学者快速掌握这一强大的深度学习框架，并逐步提升至高级水平。PyTorch是Facebook旗下的开源库，以其易用性、灵活性和强大的计算能力在...
PyTorch入门.pptx
09-07
PyTorch入门 PyTorch是当前非常流行的人工智能深度学习框架，它提供了强大的工具和库，可以帮助开发者快速构建和训练神经网络。下面是PyTorch入门的知识点总结： 1. 张量（Tensors） 张量是PyTorch的核心概念，...
PyTorch从零到一个：PyTorch从入门到精通
02-04
《PyTorch从零到一个：PyTorch从入门到精通》是一份全面的教程，旨在帮助初学者和有经验的开发者深入理解并熟练运用PyTorch这一强大的深度学习框架。PyTorch以其动态计算图和易用性而受到广大研究者和工程师的喜爱。...
小土堆Pytorch笔记
q1111111的博客
04-18 2124
小土堆Pytorch笔记，有少量改进，并记录遇到的问题
pytorch writer.add_scalar 与writer.add_scalars区别
热门推荐
邹小驴
03-30 1万+
接着解释writer.add_scalar('scalar/test', np.random.rand(), epoch)，这句代码的作用就是，将我们所需要的数据保存在文件里面供可视化使用。 这里是Scalar类型，所以使用writer.add_scalar()，其他的队形使用对应的函数。第一个参数可以简单理解为保存图的名称，第二个参数是可以理解为Y轴数据，第三个参数可以理解为X轴数据。当Y轴数据...
小土堆：Pytorch深度学习：搭建小实战和Sequential
Brightyang666的博客
07-11 132
最近忙着写论文，今天更新Pytorch深度学习：搭建小实战和Sequential。
【小土堆】完整模型训练套路
superiser的博客
02-08 425
同时，为了跟上视频进度，我将训练轮数仅设置为 2 次。刚刚开始起步，有不对的欢迎指正一起学习。
小土堆的内容代码暂存 -- 完整的CPU训练
qq_41764621的博客
08-22 153
【代码】小土堆的内容代码暂存 -- 完整的CPU训练。
add_scalar和add_scalars函数
qq_37844044的博客
02-20 6244
add_scalar和add_scalars 这两个函数是用来保存程序中的数据，然后利用tensorboard工具来进行可视化的。 add_scalar sw.add_scalar('lr' , optimizer.param_groups[0]['lr'], global_step=global_step) 这行代码的含义就是利用add_scalar函数来生成一个“lr”名称的二维函数，横轴X值为“optimizer.param_groups[0][‘lr’]”，纵轴Y值为global_step。
深度解析：PyTorch——从入门到精通
"PyTorch学习资料，包括其发展历程、设计哲学、动态计算图的特点...它能够处理从简单的机器学习任务到复杂的深度神经网络模型的各种问题。随着PyTorch的持续发展和改进，预计它将在未来继续引领深度学习技术的进步。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值