迁移学习预训练微调实验测试对比

已于 2024-05-04 14:28:20 修改
阅读量484 收藏 4
点赞数 3
分类专栏： 深度学习 文章标签： python github 计算机视觉 人工智能 机器学习 神经网络 深度学习
于 2024-05-02 18:02:20 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_52980547/article/details/138395982
版权
是否预训练是否冻结层训练时间/minmAP平均精度FPSTotal sample number
T_0否否832.68%9.87478
T_1是否7949.32%10.42678
T_2否155221.95%8.55078
T_3否305515.96%10.56578
T_4否507973.18%11.40978
T_5是158347.57%10.99278
T_6是306376.48%10.98878
T_7是506380.05%9.27778

表格中是否冻结层15表示冻结网络的前15层，实验采用Resnet50

实验环境说明：

  1. GPU：AI Studio中V100 16GB
  2. epoch: 50

测试文件地址：

测试_0

文件名：ppyolov2_r50vd_dcn_voc.yml

说明：

  1. snapshot_epoch: 10

  2. epoch: 50

  3. milestones:

        - 35 

        - 42 

文件路径/home/aistudio/work/PaddleDetection/configs/ppyolo/ppyolov2_r50vd_dcn_voc.yml

_BASE_: [ 
  '/home/aistudio/work/PaddleDetection/configs/datasets/voc.yml', 
  '/home/aistudio/work/PaddleDetection/configs/runtime.yml', 
  # 主要说明了公共的运行参数，比如说是否使用GPU、每多少个epoch存储checkpoint等
  '/home/aistudio/work/PaddleDetection/configs/ppyolo/_base_/ppyolov2_r50vd_dcn.yml', 
  #主要说明模型、和主干网络的情况
  '/home/aistudio/work/PaddleDetection/configs/ppyolo/_base_/optimizer_365e.yml', 
  #主要说明了学习率和优化器的配置
  '/home/aistudio/work/PaddleDetection/configs/ppyolo/_base_/ppyolov2_reader.yml',
 #主要说明数据读取器配置，如batch size，并发加载子进程数等，同时包含读取后预处理操作，如resize、数据增强等等
]
 
#../datasets/voc.yml  #/home/aistudio/work/PaddleDetection/configs/datasets/voc.yml
#../runtime.yml   #/home/aistudio/work/PaddleDetection/configs/runtime.yml
#./_base_/ppyolov2_r50vd_dcn.yml #/home/aistudio/work/PaddleDetection/configs/ppyolo/_base_/ppyolov2_r50vd_dcn.yml
 #./_base_/optimizer_365e.yml   #/home/aistudio/work/PaddleDetection/configs/ppyolo/_base_/optimizer_365e.yml
 #./_base_/ppyolov2_reader.yml  #/home/aistudio/work/PaddleDetection/configs/ppyolo/_base_/ppyolov2_reader.yml
 
snapshot_epoch: 10 # 这是模型保存快照的周期，即每83个epoch保存一次模型。  83
weights: output/ppyolov2_r50vd_dcn_voc/model_final # 这是模型权重的保存路径。
 
TrainReader:
  mixup_epoch: 350
  batch_size: 5 #*********
 
# set collate_batch to false because ground-truth info is needed
# on voc dataset and should not collate data in batch when batch size
# is larger than 1.
EvalReader:
  collate_batch: false
 
epoch: 50  #***********
 
LearningRate:
  base_lr: 0.00333
  schedulers:
  - !PiecewiseDecay
    gamma: 0.1
    milestones:
    - 35 #466  ************
    - 42 #516  ************
  - !LinearWarmup
    start_factor: 0.
    steps: 4000
 
OptimizerBuilder:
  optimizer:
    momentum: 0.9
    type: Momentum
  regularizer:
    factor: 0.0005
    type: L2

 文件名：optimizer_365e.yml

说明：

  1. epoch: 50 #365

  2. milestones:

        - 35 #243

文件路径：/home/aistudio/work/PaddleDetection/configs/ppyolo/_base_/optimizer_365e.yml

epoch: 50 #365

LearningRate:
  base_lr: 0.005
  schedulers:
  - !PiecewiseDecay
    gamma: 0.1
    milestones:
    - 35 #243
  - !LinearWarmup
    start_factor: 0.
    steps: 4000

OptimizerBuilder:
  clip_grad_by_norm: 35.
  optimizer:
    momentum: 0.9
    type: Momentum
  regularizer:
    factor: 0.0005
    type: L2

文件名：ppyolov2_r50vd_dcn.yml

说明：

  1. 没有预训练 # pretrain_weights: https://paddledet.bj.bcebos.com/models/pretrained/ResNet50_vd_ssld_pretrained.pdparams
  2. 没有冻结任何层

      freeze_at: -1

      freeze_norm: false

文件路径：/home/aistudio/work/PaddleDetection/configs/ppyolo/_base_/ppyolov2_r50vd_dcn.yml 

architecture: YOLOv3
#pretrain_weights: https://paddledet.bj.bcebos.com/models/pretrained/ResNet50_vd_ssld_pretrained.pdparams
norm_type: sync_bn
use_ema: true
ema_decay: 0.9998

# AMP training
master_grad: true

YOLOv3:
  backbone: ResNet
  neck: PPYOLOPAN
  yolo_head: YOLOv3Head
  post_process: BBoxPostProcess

ResNet:
  depth: 50
  variant: d
  return_idx: [1, 2, 3]
  dcn_v2_stages: [3]
  freeze_at: -1
  freeze_norm: false
  norm_decay: 0.

PPYOLOPAN:
  drop_block: true
  block_size: 3
  keep_prob: 0.9
  spp: true

YOLOv3Head:
  anchors: [[10, 13], [16, 30], [33, 23],
            [30, 61], [62, 45], [59, 119],
            [116, 90], [156, 198], [373, 326]]
  anchor_masks: [[6, 7, 8], [3, 4, 5], [0, 1, 2]]
  loss: YOLOv3Loss
  iou_aware: true
  iou_aware_factor: 0.5

YOLOv3Loss:
  ignore_thresh: 0.7
  downsample: [32, 16, 8]
  label_smooth: false
  scale_x_y: 1.05
  iou_loss: IouLoss
  iou_aware_loss: IouAwareLoss

IouLoss:
  loss_weight: 2.5
  loss_square: true

IouAwareLoss:
  loss_weight: 1.0

BBoxPostProcess:
  decode:
    name: YOLOBox
    conf_thresh: 0.01
    downsample_ratio: 32
    clip_bbox: true
    scale_x_y: 1.05
  nms:
    name: MatrixNMS
    keep_top_k: 100
    score_threshold: 0.01
    post_threshold: 0.01
    nms_top_k: -1
    background_label: -1

测试_1

文件名：ppyolov2_r50vd_dcn.yml

说明：与测试_0区别只在于使用了预训练

architecture: YOLOv3
pretrain_weights: https://paddledet.bj.bcebos.com/models/pretrained/ResNet50_vd_ssld_pretrained.pdparams
norm_type: sync_bn
use_ema: true
ema_decay: 0.9998

# AMP training
master_grad: true

YOLOv3:
  backbone: ResNet
  neck: PPYOLOPAN
  yolo_head: YOLOv3Head
  post_process: BBoxPostProcess

ResNet:
  depth: 50
  variant: d
  return_idx: [1, 2, 3]
  dcn_v2_stages: [3]
  freeze_at: -1
  freeze_norm: false
  norm_decay: 0.

PPYOLOPAN:
  drop_block: true
  block_size: 3
  keep_prob: 0.9
  spp: true

YOLOv3Head:
  anchors: [[10, 13], [16, 30], [33, 23],
            [30, 61], [62, 45], [59, 119],
            [116, 90], [156, 198], [373, 326]]
  anchor_masks: [[6, 7, 8], [3, 4, 5], [0, 1, 2]]
  loss: YOLOv3Loss
  iou_aware: true
  iou_aware_factor: 0.5

YOLOv3Loss:
  ignore_thresh: 0.7
  downsample: [32, 16, 8]
  label_smooth: false
  scale_x_y: 1.05
  iou_loss: IouLoss
  iou_aware_loss: IouAwareLoss

IouLoss:
  loss_weight: 2.5
  loss_square: true

IouAwareLoss:
  loss_weight: 1.0

BBoxPostProcess:
  decode:
    name: YOLOBox
    conf_thresh: 0.01
    downsample_ratio: 32
    clip_bbox: true
    scale_x_y: 1.05
  nms:
    name: MatrixNMS
    keep_top_k: 100
    score_threshold: 0.01
    post_threshold: 0.01
    nms_top_k: -1
    background_label: -1

测试_2

文件名：ppyolov2_r50vd_dcn.yml

说明：与测试_0区别只在于冻结了前十五层网络

architecture: YOLOv3
#pretrain_weights: https://paddledet.bj.bcebos.com/models/pretrained/ResNet50_vd_ssld_pretrained.pdparams
norm_type: sync_bn
use_ema: true
ema_decay: 0.9998
 
# AMP training
master_grad: true
 
YOLOv3:
  backbone: ResNet
  neck: PPYOLOPAN
  yolo_head: YOLOv3Head
  post_process: BBoxPostProcess
 
ResNet:
  depth: 50
  variant: d
  return_idx: [1, 2, 3]
  dcn_v2_stages: [3]
  freeze_at: 15
  freeze_norm: false
  norm_decay: 0.
 
PPYOLOPAN:
  drop_block: true
  block_size: 3
  keep_prob: 0.9
  spp: true
 
YOLOv3Head:
  anchors: [[10, 13], [16, 30], [33, 23],
            [30, 61], [62, 45], [59, 119],
            [116, 90], [156, 198], [373, 326]]
  anchor_masks: [[6, 7, 8], [3, 4, 5], [0, 1, 2]]
  loss: YOLOv3Loss
  iou_aware: true
  iou_aware_factor: 0.5
 
YOLOv3Loss:
  ignore_thresh: 0.7
  downsample: [32, 16, 8]
  label_smooth: false
  scale_x_y: 1.05
  iou_loss: IouLoss
  iou_aware_loss: IouAwareLoss
 
IouLoss:
  loss_weight: 2.5
  loss_square: true
 
IouAwareLoss:
  loss_weight: 1.0
 
BBoxPostProcess:
  decode:
    name: YOLOBox
    conf_thresh: 0.01
    downsample_ratio: 32
    clip_bbox: true
    scale_x_y: 1.05
  nms:
    name: MatrixNMS
    keep_top_k: 100
    score_threshold: 0.01
    post_threshold: 0.01
    nms_top_k: -1
    background_label: -1

从零开始大模型开发与微调：BERT预训练任务与微调
欢迎来到我的CSDN空间！这里聚焦AI大模型应用实战，分享前沿技术、实战案例与开发经验。
11-24 896
从零开始大模型开发与微调：BERT预训练任务与微调 关键词： 大模型 预训练 微调 BERT 自然语言处理 深度学习 高性能计
实验13 使用预训练resnet18实现CIFAR-10分类
qq_74062041的博客
12-03 2436
1.预训练模型：预训练模型是指在一个大规模数据集上（如 ImageNet、COCO 等）经过训练的模型。这个模型已经学习到了一些通用的特征，比如图像中的边缘、纹理、颜色、形状等，或者文本中的语法、词汇关系等。这些特征是从数据中自动学习的，并且在很多不同的任务中都有用。例子：在图像分类任务中，ResNet、VGG、Inception 等深度神经网络在 ImageNet 上经过训练后，它们可以识别成千上万种不同的物体。
Lightning AI vs Transformers 微调对比实战：谁才是 LLM 训练王者？
最新发布
在信息的熵增中，记录结构、重建秩序。 技术思想者的笔记，系统构建者的注释。
04-11 487
在大模型训练与微调中，主流开发者通常二选一：**HuggingFace Transformers（强模型支持）**，或 **PyTorch Lightning（强训练框架）**。本篇将深入对比这两者在微调 LLM 时的**工程便捷性、分布式支持、代码结构、日志监控与生态协同能力**，并给出多个微调任务实战建议。适合正在搭建训练流水线的 AI 工程师、科研人员与技术管理者阅读
PaddleDetection简单教程
qq_56591814的博客
07-27 1万+
简单介绍了paddledetection的用法，并在paddle学习赛——钢铁缺陷检测上试验了ppyoloe+模型
PaddleDetection调试
Pandakai123的博客
04-18 562
1.安装 1.1 安装paddlepaddle 创建conda环境： conda create -n paddle python=3.9 conda activate paddle 多卡训练需要安装nccl conda install -c conda-forge nccl 进入下面paddle官网找到对应的版本安装，我的安装命令行为： python -m pip install paddlepaddle-gpu==2.2.2 -i https://mirror.baidu.com/pyp
迁移学习及模型参数冻结
小石子的博客
01-06 2993
迁移学习基础入门篇前言模型迁移学习 前言 面试的时候被问了一个问题，当时没想出来。看完这个，才知道，哦，原来。。。 问题是：什么时候需要把叶子节点固定住？ 我们带着这个问题去看迁移学习。 模型迁移学习 迁移学习一个最大的作用，就是节省训练时间，因为一些大的网络训练是很费功夫的，而别人已经训练好，使得它能提取多种类别的信息了。所以只需要再进行微调学习就能得到小样本任务的训练网络。 一般而言模型的微调任务步骤如下： 1.获取预训练模型参数 2.加载模型（load.state dict） 3.修改输出层 训练方法
基于PP-YOLOE-SOD实现遥感场景下的小目标检测
一名在读大学生，正在学习深度学习，会定期分享一些该领域内容。欢迎大家一起交流学习~
03-16 3706
目标边界框的宽高与图像的宽高比例小于一定值目标边界框面积与图像面积的比值开方小于一定值分辨率小于32*32像素的目标。如MS-COCO数据集像素值范围在［10，50］之间的目标。如DOTA/WIDER FACE数据集paddle从数据集整体层面提出了如下定义：目标边界框的宽高与图像的宽高比例的中位数小于0.04时，判定该数据集为小目标数据集。目前，小目标检测主要有以下几个难点：覆盖面积小，有效特征少小目标下采样后丢失问题，边界框难以回归，模型难以收敛。
Keras预训练模型综合对比
04-13
Keras是一个非常流行的深度学习框架，它提供了多种预训练模型，便于开发者进行迁移学习。本文将深入探讨Keras中的预训练模型，并通过实例——TransferLearningCatsAndDogs项目，来对比分析这些模型的性能。 Keras预...
深度学习实验十三 卷积神经网络（4）——使用预训练resnet18实现CIFAR-10分类
weixin_74113694的博客
12-01 868
实验大体步骤：注：在自己电脑的CPU跑代码×连接远程服务器跑代码√本次实验由于数据量巨大，我的笔记本上还没有GPU，跑代码一直跑不出来，一直停在如下这个位置不动：于是我想到了连接远程服务器来跑代码。我这里使用的是AutoDL算力云，租个3080的服务器，跑个七八分钟就能出来，而且租一小时才1块多！安利！
迁移学习与CNN结合：在图像识别任务中的实证研究
AIzhijie001的博客
12-05 824
迁移学习结合卷积神经网络（CNN）是一种强大的深度学习策略，它通过利用预训练模型来加速新任务的学习过程，提高模型的泛化能力和准确性，尤其在数据稀缺或计算资源有限的情况下表现出色。Inception-v3模型的重新训练：在CIFAR-10和Caltech Faces数据集上对Inception-v3模型进行重新训练，取得了比从头开始训练的模型更高的准确率。迁移学习的应用：通过在新数据集上微调预训练的CNN模型，证明了迁移学习在图像分类中的有效性。
keras中LearningRate选择
Xwei1226的博客
07-31 4823
Time-Based Learning Rate Schedule Keras has a time-based learning rate schedule built in. The stochastic gradient descent optimization algorithm implementation in the SGD class has an argument calle...
目标检测实战：PP-YOLOv2训练自己的数据集
爱唱歌的卡卡西的博客
11-30 4644
记录使用PP-YOLOv2训练自己的数据集的过程。详细安装文档可参考官方文档。官方文档写的十分详细，包括数据准备、环境搭建、训练过程等，这里笔者根据个人操作进行总结。以上就是笔者要讲的内容，本文介绍了如何部署PaddleDetection，使用PPYOLOV2训练自己的数据集。PaddleDetection包含了不止一种目标检测的算法，里面也包括ppyoloe等其他yolo系列，训练配置、流程相差不大。
在用tflearn框架做深度神经网络的时候出现保存模型过多的情况
记录、分享、合作、共赢
03-06 9355
model = tflearn.DNN() model.fit(train_X, train_y, n_epoch=5, validation_set=(test_x, test_y), show_metric=True, snapshot_epoch=True, snapshot_step=20, batch_size=100) 其中，如果s...
pytorch LearningRate 的调整方法总结
m0_37531129的博客
08-05 5332
优化器中 最重要的一个参数是学习率，合理的学习率可以使优化器快速收敛。一般在训练初期设定较大的学习率，随着训练的进行，学习率逐渐减小，学习率什么时候减小，减小多少，这就涉及到 学习率调整方法。 pytorch V1.60 提供了 10种 learning rate 调整方法，这里做一个简单的总结。 所有的学习率调整方法可以分3大类，分别是 有序调整，自适应调整，自定义调整。 第一类：有序调整，依据一定的规律有序进行调整，这一类是最常用的，分别是等间隔下降(step), 按需设定下降间隔(MultiStep
PaddleDetection常见问题汇总
我是天才很好
07-13 2761
注: 本博客参考https://github.com/PaddlePaddle，仅为学习交流使用，如有侵权，请联系删除！ FAQ(常见问题) Q: 为什么我使用单GPU训练loss会出NaN? A: 默认学习率是适配多GPU训练(8x GPU)，若使用单GPU训练，须对应调整学习率（例如，除以8）。 计算规则表如下所示，它们是等价的，表中变化节点即为piecewise decay里的boundaries: GPU数 学习率 最大轮数 变化节点 2 0.0025 720000 [480
小白使用PaddleDetection踩过的坑
weixin_40596293的博客
10-02 2024
百度AI Studio目标检测7日打卡营@https://aistudio.baidu.com/aistudio/index(学习笔记) 使用PaddleDetection踩过的坑 飞桨推出的PaddleDetection是端到端目标检测开发套件，旨在帮助开发者更快更好地完成检测模型的训练、精度速度优化到部署全流程。该框架中提供了丰富的数据增强、网络组件、损失函数等模块，集成了模型压缩和跨平台高性能部署能力。目前基于PaddleDetection已经完成落地的项目涉及工业质检、遥感图像检测、无人巡检等
tensorflow将训练好的模型freeze,即将权重固化到图里面,并使用该模型进行预测
热门推荐
lujiandong1的专栏
11-28 5万+
ML主要分为训练和预测两个阶段,此教程就是将训练好的模型freeze并保存下来.freeze的含义就是将该模型的图结构和该模型的权重固化到一起了.也即加载freeze的模型之后,立刻能够使用了。 下面使用一个简单的demo来详细解释该过程, 一、首先运行脚本tiny_model.py #-*- coding:utf-8 -*- import tensorflow as tf import n
acc定义代码 神经网络_神经网络的循环学习率和快照(snapshot)集成
weixin_29813635的博客
12-06 986
模型集成可以实现比单个模型更低的泛化误差，但是考虑到训练nn的时候单个模型的计算成本，使用深度学习神经网络来开发它具有挑战性。一种替代方法是在一次训练的过程中训练多个模型快照，然后将它们的预测合并以进行整体预测。此方法的局限性在于，保存的模型将相似，从而导致相似的预测和预测误差，以及结合他们的预测并不能提供太多好处。有效的集成尊崇好而不同的原则，需要各种具有不同预测误差分布的高精度的模型（这里说的...
基于PaddleDetection的中国交通标志图像分类任务
m0_63642362的博客
05-27 821
转自AI Studio，原文链接：基于PaddleDetection的中国交通标志图像分类任务 - 飞桨AI Studio 【AI Workshop】基于PaddleDetection的中国交通标志图像分类任务 1 引言 1.1 项目简介 对于交通标志识别系统,其核心作用就是可以准确并及时的识别道路交通标志信息获取当前路况以及行车环境,从而起到提醒和辅助驾驶员对道路信息的把控以及纠正错误交通行为的作用。 传统的目标检测算法容易受到多种因素影响导致算法实现困难、识别精度低、识别速率慢等问题。随着深度
基于迁移学习和数据增强的ViT在口罩分类中的优越性能
他们利用预训练的ImageNet-21k模型作为迁移学习的基础，这种策略允许模型在大规模图像数据上进行学习后再针对特定任务微调，从而减少了对大量标注数据的需求。 数据增强是关键步骤之一，通过随机改变图像的亮度、...
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值