【CNN学习之路】使用PyTorch进行迁移模型学习

已于 2024-08-09 17:23:25 修改
阅读量797 收藏 12
点赞数 12
文章标签： cnn 学习 pytorch
于 2024-08-09 17:14:47 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44095109/article/details/141062745
版权

迁移学习是一种在新的或者自定义数据集上重新训练模型的技术，它比从头开始训练网络所需的时间更少，可以对预训练模型的权重进行微调，以对自定义数据集进行分类。本例将基于Jetson AGX Orin平台使用SSD-Mobilenet骨干网络进行模型训练。

Pytorch是我们将要使用的机器学习框架，下面提供了搭建pytorch环境、训练代码以及示例数据集，使我们能够重新训练 Jetson 上的各种网络，以开始训练和部署我们自己的模型。

安装 PyTorch

下载Pytorch for Jetson，使用pip3工具下载软件包【加-i参数可以指定国内下载源】

apt install python3-pip libopenblas-dev
 
python3 -m pip install aiohttp opencv-python scipy=='1.5.3' -i https://pypi.tuna.tsinghua.edu.cn/simple
 
pip3 install ./torch-2.1.0a0+41361538.nv23.06-cp38-cp38-linux_aarch64.whl -i https://pypi.tuna.tsinghua.edu.cn/simple

# 编译torchvision所需依赖包
apt install ffmpeg libavutil-dev libavcodec-dev libavformat-dev 
libavdevice-dev libavfilter-dev libswscale-dev libswresample-dev 
libswresample-dev libpostproc-dev libjpeg-dev libpng-dev
 
# 下载torchvision源码
git clone https://github.com/pytorch/vision torchvision
 
# 编译torchvision
python3 setup.py install 
 
# 利用编译成功的源码生成*.whl文件，生成文件路径在/源码根目录/dist/
python3 setup.py bdist_wheel

验证 PyTorch

>>> import torch
>>> print(torch.__version__)
>>> print('CUDA available: ' + str(torch.cuda.is_available()))
>>> a = torch.cuda.FloatTensor(2).zero_()
>>> print('Tensor a = ' + str(a))
>>> b = torch.randn(2).cuda()
>>> print('Tensor b = ' + str(b))
>>> c = a + b
>>> print('Tensor c = ' + str(c))

>>> import torchvision
>>> print(torchvision.__version__)

下载训练代码

本例使用pytorch-ssd作为训练基础代码，此 repo 使用 MobileNet 主干在 PyTorch 中实现了SSD（单次多框检测器），用于物体检测。它还具有对 Google Open Images 数据集和 Pascal VOC 进行再训练的支持。

pytorch-ssd 目录结构
├── data/             #放置数据集目录
├── eval_ssd.py
├── LICENSE
├── models/           #放置预训练模型，以及重新生成的新模型
├── onnx_export.py    #模型转换代码，将pytorch(*.pth)转换成onnx(*.onnx) 
├── open_images_classes.txt      #open images的对象分类文件，有600种对象   
├── open_images_downloader.py    #下载open images数据集
├── README.md
├── requirements.txt
├── run_ssd_example.py
├── train_ssd.py       #训练模型的核心代码
└── vision/            #处理数据集的代码文件
    ├── datasets/
    ├── __init__.py
    ├── nn
    ├── prunning
    ├── ssd
    ├── test
    ├── transforms
    └── utils

以上pytorch-ssd目录中我们当前只需要关心三个，data/，models，和train_ssd.py。

1. data/：是放置数据集的路径，本例中使用的测试数据集是CCPD(Chinese City Parking Dataset)，默认下载的数据结构是test/，train/，val/，需将其转换成Pascal VOC格式的数据集，网上也有已经转换好的voc数据集（CCPD车牌检测识别数据集_ccpd数据集全称-CSDN博客） ps：关于Pascal  VOC数据集格式请参考博客【CNN学习之路】Pascal VOC和COCO数据集

原始CCPD2020数据集格式：

CCPD2020
├── test/
├── train/
└── val/

转换后的CCPD2020 VOC数据集格式：

CCPD2020-voc
├── Annotations/  # 图片标注的xml文件
├── labels.txt   # 标签文件，必须要有 
├── JPEGImages/   # 图片放置目录
├── ImageSets/    # train.txt, test.txt(trainval.txt), val.txt放置目录
└── Main/
    ├── test.txt
    ├── train.txt
    ├── trainval.txt
    └── val.txt

2. models：预训练模型文件以及通过训练生成的模型文件，本例中使用预训练模型文件mobilenet-v1-ssd-mp-0_675.pth。

3. 训练 SSD-Mobilenet 模型

运行train_ssd.py脚本启动训练：

python3 train_ssd.py --dataset-type=voc --data=data/CCPD2020-voc --model-dir=models/CCPD2020-voc --batch-size=4 --epochs=30

以下是运行训练脚本时可以使用的一些常用选项：
--data		    数据集的位置(default: data/)
--dataset-type  指定数据集类型。当前支持 voc 和 open_images(default: open_images)
--model-dir		输出训练好的模型检查点的目录(default: models/)
--net           网络架构，可以是 mb1-ssd、mb1-ssd-lite、mb2-ssd-lite 或 vgg16-ssd(default:mobilenet-v1-ssd-mp-0_675.pth)
--resume		恢复训练的现有检查点的路径
--batch-size	尝试增加可用内存(default: 4)
--epochs	    最好达到 100，但会增加训练时间(default: 30)
--workers	    数据加载器线程数（0 = 禁用多线程）(default: 2)

开始训练，可以看到随着时间的推移，你会看到损失减少：

python3 train_ssd.py --dataset-type=voc --data=data/CCPD2020-voc --model-dir=models/voc-ccpd2020 --batch-size=4 --epochs=30

2024-08-09 11:16:32 - Using CUDA...
2024-08-09 11:16:32 - Namespace(balance_data=False, base_net=None, base_net_lr=0.001, batch_size=4, checkpoint_folder='models/voc-ccpd2020', dataset_type='voc', datasets=['data/CCPD2020-voc'], debug_steps=10, extra_layers_lr=None, freeze_base_net=False, freeze_net=False, gamma=0.1, log_level='info', lr=0.01, mb2_width_mult=1.0, milestones='80,100', momentum=0.9, net='mb1-ssd', num_epochs=30, num_workers=2, pretrained_ssd='models/mobilenet-v1-ssd-mp-0_675.pth', resolution=300, resume=None, scheduler='cosine', t_max=100, use_cuda=True, validation_epochs=1, validation_mean_ap=False, weight_decay=0.0005)
2024-08-09 11:16:43 - model resolution 300x300
2024-08-09 11:16:43 - SSDSpec(feature_map_size=19, shrinkage=16, box_sizes=SSDBoxSizes(min=60, max=105), aspect_ratios=[2, 3])
2024-08-09 11:16:43 - SSDSpec(feature_map_size=10, shrinkage=32, box_sizes=SSDBoxSizes(min=105, max=150), aspect_ratios=[2, 3])
2024-08-09 11:16:43 - SSDSpec(feature_map_size=5, shrinkage=64, box_sizes=SSDBoxSizes(min=150, max=195), aspect_ratios=[2, 3])
2024-08-09 11:16:43 - SSDSpec(feature_map_size=3, shrinkage=100, box_sizes=SSDBoxSizes(min=195, max=240), aspect_ratios=[2, 3])
2024-08-09 11:16:43 - SSDSpec(feature_map_size=2, shrinkage=150, box_sizes=SSDBoxSizes(min=240, max=285), aspect_ratios=[2, 3])
2024-08-09 11:16:43 - SSDSpec(feature_map_size=1, shrinkage=300, box_sizes=SSDBoxSizes(min=285, max=330), aspect_ratios=[2, 3])
2024-08-09 11:16:43 - Prepare training datasets.
2024-08-09 11:16:44 - VOC Labels read from file:  ('BACKGROUND', 'plate')
2024-08-09 11:16:44 - Stored labels into file models/voc-ccpd2020/labels.txt.
2024-08-09 11:16:44 - Train dataset size: 5006
2024-08-09 11:16:44 - Prepare Validation datasets.
2024-08-09 11:16:44 - VOC Labels read from file:  ('BACKGROUND', 'plate')
2024-08-09 11:16:44 - Validation dataset size: 5006
2024-08-09 11:16:44 - Build network.
2024-08-09 11:16:44 - Init from pretrained SSD models/mobilenet-v1-ssd-mp-0_675.pth
2024-08-09 11:16:44 - Took 0.09 seconds to load the model.
2024-08-09 11:16:44 - Learning rate: 0.01, Base net learning rate: 0.001, Extra Layers learning rate: 0.01.
2024-08-09 11:16:44 - Uses CosineAnnealingLR scheduler.
2024-08-09 11:16:44 - Start training from epoch 0.
/usr/local/lib/python3.8/dist-packages/torch/nn/_reduction.py:42: UserWarning: size_average and reduce args will be deprecated, please use reduction='sum' instead.
  warnings.warn(warning.format(ret))
2024-08-09 11:16:58 - Epoch: 0, Step: 10/1252, Avg Loss: 12.3072, Avg Regression Loss 5.4673, Avg Classification Loss: 6.8400
2024-08-09 11:16:59 - Epoch: 0, Step: 20/1252, Avg Loss: 7.8495, Avg Regression Loss 3.7893, Avg Classification Loss: 4.0602
2024-08-09 11:17:01 - Epoch: 0, Step: 30/1252, Avg Loss: 7.8789, Avg Regression Loss 3.9562, Avg Classification Loss: 3.9227
2024-08-09 11:17:03 - Epoch: 0, Step: 40/1252, Avg Loss: 6.3876, Avg Regression Loss 3.6811, Avg Classification Loss: 2.7065
2024-08-09 11:17:04 - Epoch: 0, Step: 50/1252, Avg Loss: 6.3902, Avg Regression Loss 3.0269, Avg Classification Loss: 3.3633
2024-08-09 11:17:05 - Epoch: 0, Step: 60/1252, Avg Loss: 4.7573, Avg Regression Loss 2.2380, Avg Classification Loss: 2.5193
2024-08-09 11:17:06 - Epoch: 0, Step: 70/1252, Avg Loss: 4.8878, Avg Regression Loss 2.1748, Avg Classification Loss: 2.7129
2024-08-09 11:17:08 - Epoch: 0, Step: 80/1252, Avg Loss: 4.9830, Avg Regression Loss 2.2068, Avg Classification Loss: 2.7761

将模型转换为 ONNX

需要将训练好的模型从 PyTorch 转换为 ONNX，以便我们可以用 Jetson TensorRT 加载它：

python3 onnx_export.py --model-dir=models/voc-ccpd2020

这将在pytorch-ssd/models/voc-ccpd2020/保存ssd-mobilenet.onnx的模型。

使用 TensorRT 处理图像

为了对一些静态测试图像进​​行分类，我们将使用扩展的命令行参数detectnet（或detectnet.py）来加载我们的自定义 SSD-Mobilenet ONNX 模型。

./detectnet --model=models/voc-ccpd2020/ssd-mobilenet.onnx \
--labels=models/voc-ccpd2020/labels.txt --input-blob=input_0 \
--output-cvg=scores --output-bbox=boxes "./test/*.jpg" ./demo/plate_%i.jpg

以下是输出到目录的一些图像/demo/plate.jpg：

  

康仔00718
关注
如何在 PyTorch 中冻结模型权重以进行迁移学习：分步教程
gongdiwudu的专栏
10-10 5349
迁移学习是一种机器学习技术，其中预先训练的模型适用于新的但类似的问题。迁移学习的关键步骤之一是能够冻结预训练模型的层，以便在训练期间仅更新网络的某些部分。当您想要保留预训练模型已经学习的特征时，冻结至关重要。在本教程中，我们将使用一个简单的示例来演示在 PyTorch 中冻结权重以进行迁移学习的过程。
PyTorch深度学习实战（3）——使用PyTorch构建神经网络
盼小辉丶的博客
06-13 6万+
PyTorch 是一个用于构建深度神经网络的库，具有灵活性和可扩展性，可以轻松自定义模型。在本节中，我们将使用 PyTorch 库构建神经网络，利用张量对象操作和梯度值计算更新网络权重，并利用 Sequential 类简化网络构建过程，最后还介绍了如何使用 save、load 方法保存和加载模型，以节省模型训练时间。
基于 PyTorch 的迁移学习介绍 （图像分类实战演示）
最新发布
Henry的博客
07-10 1330
要了解有关我们模型的更多信息，让我们使用 torchinfo 的summary() 方法。为此，我们将传入：model - 我们想要获得摘要的模型。input_size - 我们想要传递给模型的数据的形状，对于 effectivenet_b0 的情况，输入大小为 (batch_size, 3, 224, 224)，尽管 effectivenet_bX 的其他变体具有不同的输入大小。
CNN迁移学习
EverlightGe
03-13 5330
Learning and Transferring Mid-Level Image Representations using Convolutional Neural Networks这是2014年发在CVPR上的一篇论文，主要解决一个问题：深度学习需要大量的数据，对于小的数据集，如何进行深度学习训练？作者提出了可以在大型数据集(如ImageNet)上进行预训练，然后将训练好的网络权重迁移到小的数
CNN与迁移学习
u010745111的专栏
03-29 5454
图像相关任务： 1、物体识别（faster R-CNN) 2、图片识别＋定位 3、物体检测 4、图像分割 图片定位： 输入：image 输出：物体边界框（x,y,w,h)；x,y是左上角坐标，w是宽度，h是高度。 评价准则：交并准则 思路1:看成回归问题。因为有四个数字 步骤1: 先解决简单问题，搭一个识别图像的神经网络。在经典CNN上进行fin
cnn 迁移学习
qq_34387412的博客
04-09 423
参考：https://tensorflow.google.cn/tutorials/images/transfer_learning
使用 PyTorch 进行 风格迁移（Neural-Transfer）
小白学视觉
09-30 1699
点击上方“小白学视觉”，选择加"星标"或“置顶”重磅干货，第一时间送达1.简介本教程主要讲解如何实现由 Leon A. Gatys，Alexander S. Ecker和Matthias Bethge提出的Neural-Style算法。Neural-Style 或者叫 Neural-Transfer，可以让你使用一种新的风格将指定的图片进行重构。这个算法使用三张图片，一张输入图片，一张内容图片和...
吴恩达—卷积神经网络（CNN）学习笔记（四）——迁移学习 & 数据增强
weixin_47414581的博客
12-15 795
而对于冻结这样的操作，在代码中的实现取决于我们使用的深度学习框架，例如在pytorch框架下可以使用以下代码对网络的前9层进行冻结。当然，当我们有相对较多的数据样本时，也可以选择冻结更少的层，一般来说按从深到浅的顺序“解冻”。简单来说，规律就是你拥有的数据样本越多，你需要冻结的层数就越少，你能够训练的层数就越多。第二周的学习至此也结束了，总结来说这周课程的内容开始更多地偏向于实际应用了，尤其是迁移学习和数据增强的方法可以很有效地解决计算机视觉领域样本数据不足的问题。下载下来，也就是网络中的参数。
使用PyTorch进行深度学习 Deep Learning with PyTorch.zip
04-09
在深度学习领域，PyTorch是一个非常流行的开源框架，它为研究人员和开发人员提供了一个强大的工具，用于...通过学习这些知识点，你可以有效地利用PyTorch构建、训练和部署深度学习模型，参与到人工智能的前沿探索之中。
使用PyTorch进行迁移学习
TensorFlowNews
11-12 2825
概述 迁移学习可以改变你建立机器学习和深度学习模型的方式 了解如何使用PyTorch进行迁移学习，以及如何将其与使用预训练的模型联系起来 我们将使用真实世界的数据集，并比较使用卷积神经网络(CNNs)构建的模型和使用迁移学习构建的模型的性能 介绍 我去年在一个计算机视觉项目中工作，我们必须建立一个健壮的人脸检测模型。 考虑到我们拥有的数据集的大小，从头构建一个模型是一个挑战。从头构建将是一...
卷积神经网络与迁移学习
06-13
该文档，内容简单，且浅显易懂。非常实用。并刻在我的csdn下找到相应的谷歌的深度学习框架。
pytorch-ssd:Pytorch 1.0 Pytorch 0.4中基于MobileNetV1，MobileNetV2，VGG的SSDSSD-lite实现。 开箱即用的支持，可以对Open Images数据集进行重新训练。 ONNX和Caffe2支持。 像CoordConv这样的实验创意
05-03
Pytorch中的单发MultiBox检测器实现 此仓库实现了 。 实施受到项目和严重影响。 设计目标是模块化和可扩展性。 当前，它具有MobileNetV1，MobileNetV2和基于VGG的SSD / SSD-Lite实现。 它还具有开箱即用的支持，可以对Google Open Images数据集进行重新训练。 依存关系 Python 3.6+ OpenCV Pytorch 1.0或Pytorch 0.4+ Caffe2 大熊猫 如果您想在Google OpenImages数据集上训练模型，请使用Boto3。 运行演示 运行实时MobilenetV1 SSD演示 wget -P models https://storage.googleapis.com/models-hao/mobilenet-v1-ssd-mp-0_675.pth wget -P models https
mobilenet-v1-ssd-mp-0_675.7z
11-29
Pytorch SSD预训练模型mobilenet-v1-ssd-mp-0_675.pth
PyTorch深度学习实战（1）——神经网络与模型训练过程详解
热门推荐
盼小辉丶的博客
05-28 6万+
在本节中，我们将了解传统机器学习与人工神经网络间的差异，并了解如何在实现前向传播之前连接网络的各个层，以计算与网络当前权重对应的损失值；实现反向传播以优化权重达到最小化损失值的目标。并将实现网络的所有关键组成——前向传播、激活函数、损失函数、链式法则和梯度下降，从零开始构建并训练了一个简单的神经网络。
pytorch模型参数迁移(三种方法)，2024年最新深入解析Linux运维核心组件和应用框架
2401_83739411的博客
04-18 880
本书是获得了很多读者好评的Linux经典畅销书**《Linux从入门到精通》的第2版**。本书第﹖版以最新的Ubuntu 12.04为版本，循序渐进地向读者介绍了Linux 的基础应用、系统管理、网络应用、娱乐和办公、程序开发、服务器配置、系统安全等。需要《Linux入门到精通》、《linux系统移植》、《Linux驱动开发入门实战》、《Linux开源网络全栈》电子书籍及教程的工程师朋友们劳烦您转发+评论。(img-q8wgN0iR-1713397522207)]#将114行的代码修改成。
深度学习---从入门到放弃（七）CNN进阶，迁移学习
weixin_46263718的博客
09-12 1090
深度学习—从入门到放弃（七）CNN进阶，迁移学习 引入 图像是高维的。即image_length* image_width*image_channels是一个很大的数字，而上一教程里所提到的CNN的权值共享便是一种解决图像和其他领域高维问题的方法。 在CNN网络结构的演化上，出现过许多优秀的CNN网络，本文的目的就是带大家了解现代卷积神经网络的发展历程，本文主要关注以下四种网络：LeNet，AlexNet，VGG-Net，GoogLeNet，ResNet。 1. ...
【Pytorch图像分类】搭建卷积神经网络（CNN）和使用迁移学习（Transfer Learning）实现图片识别
qq_43018832的博客
11-14 3258
图像分类，也可以称作图像识别，顾名思义，就是辨别图像中的物体属于什么类别。核心是从给定的分类集合中给图像分配一个标签的任务。实际上，这意味着我们的任务是分析一个输入图像并返回一个将图像分类的标签。在这里，我们将分别自己搭建卷积神经网路、迁移学习分别对图像数据集进行分类。本篇使用的数据集下载地址为：链接：https://pan.baidu.com/s/1mS4xIf1sr3mhYn-cJNMqjQ提取码：k57iPytorch_datasets文件夹底下包括两个文件夹存放各自的图片数据集。
迁移学习篇之如何迁移经典CNN网络-附迁移学习Alexnet，VGG，Googlenet，Resnet详细代码注释和方法-pytorch
爱吃橘子的小翟
04-27 3676
迁移学习
神经风格迁移深度学习教程：使用Pytorch实践
资源摘要信息:"Pytorch深度学习教程之神经风格迁移" 知识点一：Pytorch框架概述 Pytorch是由Facebook开发的开源机器学习库，它广泛应用于计算机视觉和自然语言处理等领域。Pytorch支持动态计算图，能够提供更加灵活...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值