MMPretrain代码课-笔记练习

最新推荐文章于 2024-06-12 16:46:38 发布
最新推荐文章于 2024-06-12 16:46:38 发布
阅读量355 收藏
点赞数
文章标签： 笔记 python 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/github_38929225/article/details/131075750
版权

【课程预告及链接】
⏰今日课程：深度学习与预训练MMPretrain （6月6日 周二）
【课程名称】MMPretrain代码课
【课程链接】https://www.bilibili.com/video/BV1Ju4y1Z7ZE/?spm_id_from=333.999.0.0
【讲师介绍】马泽润 OpenMMLab算法工程师
【学习形式】录播+社群答疑
【作业布置】本次课程有作业，Github issue 链接：https://github.com/open-mmlab/OpenMMLabCamp/issues/108

百看不如一练，第一遍没有看懂，所以我找到了mmpretrain官方的链接一遍看文档，一遍看视频，一遍执行代码，慢慢熟悉一下。

从源码安装

git clone https://github.com/open-mmlab/mmpretrain.git
cd mmpretrain
pip install -U openmim && mim install -e .

如果中途遇到下载链接超时，记得更新一下pip下载源，在重新执行命令。（猜测每次重新停止任务后，配置会失效）

pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple

在这里插入图片描述
在这里插入图片描述

安装多模态支持 (可选)

# 从源码安装
mim install -e ".[multimodal]"
# 作为 Python 包安装
mim install "mmpretrain[multimodal]>=1.0.0rc8"

在这里插入图片描述

验证安装

执行的时候，少库，与前面写的那个一样，这里在重新安装一遍

apt install libgl1-mesa-glx
apt-get update
apt-get install libglib2.0-dev

python demo/image_demo.py demo/demo.JPEG resnet18_8xb32_in1k --device cpu

在这里插入图片描述

学习配置文件

为了管理深度学习实验的各种设置，我们使用配置文件来记录所有这些配置。这种配置文件系统具有模块化和继承特性，更多细节可以在MMEngine 中的教程。

MMPretrain 主要使用 python 文件作为配置文件，所有配置文件都放置在 configs 文件夹下，目录结构如下所示：

MMPretrain/
├── configs/
│ ├── base/ # primitive configuration folder
│ │ ├── datasets/ # primitive datasets
│ │ ├── models/ # primitive models
│ │ ├── schedules/ # primitive schedules
│ │ └── default_runtime.py # primitive runtime setting
│ ├── beit/ # BEiT Algorithms Folder
│ ├── mae/ # MAE Algorithms Folder
│ ├── mocov2/ # MoCoV2 Algorithms Folder
│ ├── resnet/ # ResNet Algorithms Folder
│ ├── swin_transformer/ # Swin Algorithms Folder
│ ├── vision_transformer/ # ViT Algorithms Folder
│ ├── …
└── …
可以使用 python tools/misc/print_config.py /PATH/TO/CONFIG 命令来查看完整的配置信息，从而方便检查所对应的配置文件。

本文主要讲解 MMPretrain 配置文件的命名和结构，以及如何基于已有的配置文件修改，并以 ResNet50 配置文件 逐行解释。

配置文件结构
在 configs/base 文件夹下有 4 个基本组件类型，分别是：

模型(model)

数据(data)

训练策略(schedule)

运行设置(runtime)

你可以通过继承一些基本配置文件轻松构建自己的训练配置文件。我们称这些被继承的配置文件为 原始配置文件，如 base 文件夹中的文件一般仅作为原始配置文件。

下面使用 ResNet50 配置文件 作为案例进行说明并注释每一行含义。

_

base_ = [                                    # 此配置文件将继承所有 `_base_` 中的配置
    '../_base_/models/resnet50.py',           # 模型配置
    '../_base_/datasets/imagenet_bs32.py',    # 数据配置
    '../_base_/schedules/imagenet_bs256.py',  # 训练策略配置
    '../_base_/default_runtime.py'            # 默认运行设置
]

我们将在下面分别解释这四个原始配置文件。

模型配置

模型原始配置文件包含一个 model 字典数据结构，主要包括网络结构、损失函数等信息：

  • type：算法类型，我们支持了多种任务
    。对于图像分类任务，通常为 ImageClassifier，更多细节请参考 API 文档。
    。对于自监督任务，有多种类型的算法，例如 MoCoV2, BEiT, MAE 等。更多细节请参考 API 文档。
    。对于图像检索任务，通常为 ImageToImageRetriever，更多细节请参考 API 文档.

通常，我们使用 type字段 来指定组件的类，并使用其他字段来传递类的初始化参数。注册器教程 对其进行了详细描述。

这里我们以 ImageClassifier 的配置字段为例，对初始化参数进行说明：

  • backbone： 主干网络设置，主干网络为主要的特征提取网络，比如 ResNet, Swin Transformer, Vision Transformer 等等。更多可用选项请参考 API 文档。

    • 对于自监督学习，有些主干网络需要重新实现，您可以在 API 文档 中获取更多细节。

  • neck： 颈网络设置，颈网络主要是连接主干网和头网络的中间部分，比如 GlobalAveragePooling 等，更多可用选项请参考
    API 文档。

  • head： 头网络设置，头网络主要是与具体任务关联的部件，如图像分类、自监督训练等，更多可用选项请参考 API 文档。

    • loss： 损失函数设置， 支持 CrossEntropyLoss, LabelSmoothLoss, PixelReconstructionLoss 等，更多可用选项参考 API 文档。

  • data_preprocessor: 图像输入的预处理模块，输入在进入模型前的预处理操作，例如 ClsDataPreprocessor,
    有关详细信息，请参阅 API 文档。

    train_cfg: ImageClassifier 的额外训练配置。在 ImageClassifier
    中，我们使用这一参数指定批数据增强设置，比如 Mixup 和 CutMix。详见文档。

以下是 ResNet50 的模型配置’configs/base/models/resnet50.py’：

model = dict(
    type='ImageClassifier',     # 主模型类型（对于图像分类任务，使用 `ImageClassifier`）
    backbone=dict(
        type='ResNet',          # 主干网络类型
        # 除了 `type` 之外的所有字段都来自 `ResNet` 类的 __init__ 方法
        # 可查阅 https://mmpretrain.readthedocs.io/zh_CN/latest/api/generated/mmpretrain.models.backbones.ResNet.html
        depth=50,
        num_stages=4,           # 主干网络状态(stages)的数目，这些状态产生的特征图作为后续的 head 的输入。
        out_indices=(3, ),      # 输出的特征图输出索引。
        frozen_stages=-1,       # 冻结主干网的层数
        style='pytorch'),
    neck=dict(type='GlobalAveragePooling'),    # 颈网络类型
    head=dict(
        type='LinearClsHead',         # 分类颈网络类型
        # 除了 `type` 之外的所有字段都来自 `LinearClsHead` 类的 __init__ 方法
        # 可查阅 https://mmpretrain.readthedocs.io/zh_CN/latest/api/generated/mmpretrain.models.heads.LinearClsHead.html
        num_classes=1000,
        in_channels=2048,
        loss=dict(type='CrossEntropyLoss', loss_weight=1.0), # 损失函数配置信息
        topk=(1, 5),                 # 评估指标，Top-k 准确率， 这里为 top1 与 top5 准确率
    ))

数据

数据原始配置文件主要包括预处理设置、dataloader 以及 评估器等设置：

  • data_preprocessor: 模型输入预处理配置，与 model.data_preprocessor 相同，但优先级更低。

  • train_evaluator | val_evaluator | test_evaluator: 构建评估器，参考 API 文档。

  • train_dataloader | val_dataloader | test_dataloader: 构建 dataloader

    • samples_per_gpu: 每个 GPU 的 batch size

    • workers_per_gpu: 每个 GPU 的线程数

    • sampler: 采样器配置

    • dataset: 数据集配置

      • type: 数据集类型， MMPretrain 支持 ImageNet、 Cifar 等数据集 ，参考 API 文档

      • pipeline: 数据处理流水线，参考相关教程文档 如何设计数据处理流水线

以下是 ResNet50 的数据配置 ‘configs/base/datasets/imagenet_bs32.py’：

dataset_type = 'ImageNet'
#预处理配置
data_preprocessor = dict(
    # 输入的图片数据通道以 'RGB' 顺序
    mean=[123.675, 116.28, 103.53],    # 输入图像归一化的 RGB 通道均值
    std=[58.395, 57.12, 57.375],       # 输入图像归一化的 RGB 通道标准差
    to_rgb=True,                       # 是否将通道翻转，从 BGR 转为 RGB 或者 RGB 转为 BGR
)

train_pipeline = [
    dict(type='LoadImageFromFile'),     # 读取图像
    dict(type='RandomResizedCrop', scale=224),     # 随机放缩裁剪
    dict(type='RandomFlip', prob=0.5, direction='horizontal'),   # 随机水平翻转
    dict(type='PackInputs'),         # 准备图像以及标签
]

test_pipeline = [
    dict(type='LoadImageFromFile'),     # 读取图像
    dict(type='ResizeEdge', scale=256, edge='short'),  # 缩放短边尺寸至 256px
    dict(type='CenterCrop', crop_size=224),     # 中心裁剪
    dict(type='PackInputs'),                 # 准备图像以及标签
]

# 构造训练集 dataloader
train_dataloader = dict(
    batch_size=32,                     # 每张 GPU 的 batchsize
    num_workers=5,                     # 每个 GPU 的线程数
    dataset=dict(                      # 训练数据集
        type=dataset_type,
        data_root='data/imagenet',
        ann_file='meta/train.txt',
        data_prefix='train',
        pipeline=train_pipeline),
    sampler=dict(type='DefaultSampler', shuffle=True),   # 默认采样器
    persistent_workers=True,                             # 是否保持进程，可以缩短每个 epoch 的准备时间
)

# 构造验证集 dataloader
val_dataloader = dict(
    batch_size=32,
    num_workers=5,
    dataset=dict(
        type=dataset_type,
        data_root='data/imagenet',
        ann_file='meta/val.txt',
        data_prefix='val',
        pipeline=test_pipeline),
    sampler=dict(type='DefaultSampler', shuffle=False),
    persistent_workers=True,
)
# 验证集评估设置，使用准确率为指标， 这里使用 topk1 以及 top5 准确率
val_evaluator = dict(type='Accuracy', topk=(1, 5))

test_dataloader = val_dataloader  # test dataloader 配置，这里直接与 val_dataloader 相同
test_evaluator = val_evaluator    # 测试集的评估配置，这里直接与 val_evaluator 相同

备注
		
预处理配置（data_preprocessor）既可以作为 model 的一个子字段，也可以定义在外部的 data_preprocessor 字段， 同时配置时，优先使用 model.data_preprocessor 的配置。

训练策略

训练策略原始配置文件主要包括预优化器设置和训练、验证及测试的循环控制器(LOOP)：

  • optim_wrapper: 优化器装饰器配置信息，我们使用优化器装饰配置优化进程。

    • optimizer: 支持 pytorch 所有的优化器，参考相关 MMEngine 文档。

    • paramwise_cfg: 根据参数的类型或名称设置不同的优化参数，参考相关 学习策略文档 文档。

    • accumulative_counts: 积累几个反向传播后再优化参数，你可以用它通过小批量来模拟大批量。

  • param_scheduler : 学习率策略，你可以指定训练期间的学习率和动量曲线。有关详细信息，请参阅 MMEngine 中的 文档。

  • train_cfg | val_cfg | test_cfg: 训练、验证以及测试的循环执行器配置，请参考相关的MMEngine 文档。

以下是 ResNet50 的训练策略配置’configs/base/schedules/imagenet_bs256.py’：

optim_wrapper = dict(
    # 使用 SGD 优化器来优化参数
    optimizer=dict(type='SGD', lr=0.1, momentum=0.9, weight_decay=0.0001))

# 学习率参数的调整策略
# 'MultiStepLR' 表示使用多步策略来调度学习率（LR）。
param_scheduler = dict(
    type='MultiStepLR', by_epoch=True, milestones=[30, 60, 90], gamma=0.1)

# 训练的配置，迭代 100 个 epoch，每一个训练 epoch 后都做验证集评估
# 'by_epoch=True' 默认使用 `EpochBaseLoop`,  'by_epoch=False' 默认使用 `IterBaseLoop`
train_cfg = dict(by_epoch=True, max_epochs=100, val_interval=1)
# 使用默认的验证循环控制器
val_cfg = dict()
# 使用默认的测试循环控制器
test_cfg = dict()

# 通过默认策略自动缩放学习率，此策略适用于总批次大小 256
# 如果你使用不同的总批量大小，比如 512 并启用自动学习率缩放
# 我们将学习率扩大到 2 倍
auto_scale_lr = dict(base_batch_size=256)

运行设置

本部分主要包括保存权重策略、日志配置、训练参数、断点权重路径和工作目录等等。

以下是几乎所有算法都使用的运行配置’configs/base/default_runtime.py’：

# 默认所有注册器使用的域
default_scope = 'mmpretrain'

# 配置默认的 hook
default_hooks = dict(
    # 记录每次迭代的时间。
    timer=dict(type='IterTimerHook'),

    # 每 100 次迭代打印一次日志。
    logger=dict(type='LoggerHook', interval=100),

    # 启用默认参数调度 hook。
    param_scheduler=dict(type='ParamSchedulerHook'),

    # 每个 epoch 保存检查点。
    checkpoint=dict(type='CheckpointHook', interval=1),

    # 在分布式环境中设置采样器种子。
    sampler_seed=dict(type='DistSamplerSeedHook'),

    # 验证结果可视化，默认不启用，设置 True 时启用。
    visualization=dict(type='VisualizationHook', enable=False),
)

# 配置环境
env_cfg = dict(
   # 是否开启 cudnn benchmark
    cudnn_benchmark=False,

    # 设置多进程参数
    mp_cfg=dict(mp_start_method='fork', opencv_num_threads=0),

    # 设置分布式参数
    dist_cfg=dict(backend='nccl'),
)

# 设置可视化工具
vis_backends = [dict(type='LocalVisBackend')] # 使用磁盘(HDD)后端
visualizer = dict(
    type='UniversalVisualizer', vis_backends=vis_backends, name='visualizer')

# 设置日志级别
log_level = 'INFO'

# 从哪个检查点加载
load_from = None

# 是否从加载的检查点恢复训练
resume = False

继承并修改配置文件

为了精简代码、更快的修改配置文件以及便于理解，我们建议继承现有方法。

对于在同一算法文件夹下的所有配置文件，MMPretrain 推荐只存在 一个 对应的 原始配置 文件。 所有其他的配置文件都应该继承 原始配置 文件，这样就能保证配置文件的最大继承深度为 3。

例如，如果在 ResNet 的基础上做了一些修改，用户首先可以通过指定 base = ‘./resnet50_8xb32_in1k.py’（相对于你的配置文件的路径），来继承基础的 ResNet 结构、数据集以及其他训练配置信息，然后修改配置文件中的必要参数以完成继承。如想在基础 resnet50 的基础上使用 CutMix 训练增强，将训练轮数由 100 改为 300 和修改学习率衰减轮数，同时修改数据集路径，可以建立新的配置文件 configs/resnet/resnet50_8xb32-300e_in1k.py， 文件中写入以下内容：

# 在 'configs/resnet/' 创建此文件
_base_ = './resnet50_8xb32_in1k.py'

# 模型在之前的基础上使用 CutMix 训练增强
model = dict(
    train_cfg=dict(
        augments=dict(type='CutMix', alpha=1.0)
    )
)

# 优化策略在之前基础上训练更多个 epoch
train_cfg = dict(max_epochs=300, val_interval=10)  # 训练 300 个 epoch，每 10 个 epoch 评估一次
param_scheduler = dict(step=[150, 200, 250])   # 学习率调整也有所变动

# 使用自己的数据集目录
train_dataloader = dict(
    dataset=dict(data_root='mydata/imagenet/train'),
)
val_dataloader = dict(
    batch_size=64,                  # 验证时没有反向传播，可以使用更大的 batchsize
    dataset=dict(data_root='mydata/imagenet/val'),
)
test_dataloader = dict(
    batch_size=64,                  # 测试时没有反向传播，可以使用更大的 batchsize
    dataset=dict(data_root='mydata/imagenet/val'),
)

使用配置文件里的中间变量

用一些中间变量，中间变量让配置文件更加清晰，也更容易修改。

例如数据集里的 train_pipeline / test_pipeline 是作为数据流水线的中间变量。我们首先要定义它们，然后将它们传递到 train_dataloader / test_dataloader 中。如果想修改训练或测试时输入图片的大小，就需要修改 train_pipeline / test_pipeline 这些中间变量。

bgr_mean = [103.53, 116.28, 123.675]
train_pipeline = [
    dict(type='LoadImageFromFile'),
    dict(type='RandomResizedCrop', scale=224, backend='pillow', interpolation='bicubic'),
    dict(type='RandomFlip', prob=0.5, direction='horizontal'),
    dict(
        type='RandAugment',
        policies='timm_increasing',
        num_policies=2,
        total_level=10,
        magnitude_level=6,
        magnitude_std=0.5,
        hparams=dict(pad_val=[round(x) for x in bgr_mean], interpolation='bicubic')),
    dict(type='PackInputs'),
]

test_pipeline = [
    dict(type='LoadImageFromFile'),
    dict(type='ResizeEdge', scale=236, edge='short', backend='pillow', interpolation='bicubic'),
    dict(type='CenterCrop', crop_size=224),
    dict(type='PackInputs')
]

train_dataloader = dict(dataset=dict(pipeline=train_pipeline))
val_dataloader = dict(dataset=dict(pipeline=val_pipeline))
test_dataloader = dict(dataset=dict(pipeline=val_pipeline))

忽略基础配置文件里的部分内容

有时，您需要设置 delete=True 去忽略基础配置文件里的一些域内容。可以查看 MMEngine 文档 进一步了解该设计。

以下是一个简单应用案例。 如果在上述 ResNet50 案例中 使用余弦调度 ,使用继承并直接修改会报 get unexcepected keyword ‘step’ 错，因为基础配置文件 param_scheduler 域信息的 ‘step’ 字段被保留下来了，需要加入 delete=True 去忽略基础配置文件里的 param_scheduler 相关域内容：

_base_ = '../../configs/resnet/resnet50_8xb32_in1k.py'

# 学习率调整策略
param_scheduler = dict(type='CosineAnnealingLR', by_epoch=True, _delete_=True)

引用基础配置文件里的变量

有时，您可以引用 base 配置信息的一些域内容，这样可以避免重复定义。可以查看 MMEngine 文档 进一步了解该设计。

以下是一个简单应用案例，在训练数据预处理流水线中使用 auto augment 数据增强，参考配置文件 configs/resnest/resnest50_32xb64_in1k.py。 在定义 train_pipeline 时，可以直接在 base 中加入定义 auto augment 数据增强的文件命名，再通过 {{base.auto_increasing_policies}} 引用变量：

_base_ = [
    '../_base_/models/resnest50.py', '../_base_/datasets/imagenet_bs64.py',
    '../_base_/default_runtime.py', './_randaug_policies.py',
]

train_pipeline = [
    dict(type='LoadImageFromFile'),
    dict(
        type='RandAugment',
        policies={{_base_.policies}},    # 这里使用了 _base_ 里的 `policies` 参数。
        num_policies=2,
        magnitude_level=12),
    dict(type='EfficientNetRandomCrop', scale=224, backend='pillow'),
    dict(type='RandomFlip', prob=0.5, direction='horizontal'),
    dict(type='ColorJitter', brightness=0.4, contrast=0.4, saturation=0.4),
    dict(
        type='Lighting',
        eigval=EIGVAL,
        eigvec=EIGVEC,
        alphastd=0.1,
        to_rgb=False),
    dict(type='PackInputs'),
]

train_dataloader = dict(dataset=dict(pipeline=train_pipeline))

通过命令行参数修改配置信息

当用户使用脚本 “tools/train.py” 或者 “tools/test.py” 提交任务，以及使用一些工具脚本时，可以通过指定 --cfg-options 参数来直接修改所使用的配置文件内容。

  • 更新配置文件内的字典
    可以按照原始配置文件中字典的键的顺序指定配置选项。 例如，–cfg-options model.backbone.norm_eval=False 将主干网络中的所有 BN 模块更改为 train 模式。

  • 更新配置文件内列表的键

    一些配置字典在配置文件中会形成一个列表。例如，训练流水线 data.train.pipeline 通常是一个列表。 例如，[dict(type=‘LoadImageFromFile’), dict(type=‘TopDownRandomFlip’, flip_prob=0.5), …] 。如果要将流水线中的 ‘flip_prob=0.5’ 更改为 ‘flip_prob=0.0’，您可以这样指定 --cfg-options data.train.pipeline.1.flip_prob=0.0 。

  • 更新列表/元组的值。

    当配置文件中需要更新的是一个列表或者元组，例如，配置文件通常会设置 val_evaluator = dict(type=‘Accuracy’, topk=(1, 5))，用户如果想更改 topk， 需要指定 --cfg-options val_evaluator.topk=“(1,3)”。注意这里的引号 ” 对于列表以及元组数据类型的修改是必要的， 并且 不允许 引号内所指定的值的书写存在空格。

github_38929225
关注
MMPreTrain: 预训练算法的强大开源框架
gitblog_01171的博客
08-09 492
MMPreTrain: 预训练算法的强大开源框架 mmpretrainOpenMMLab Pre-training Toolbox and Benchmark项目地址:https://gitcode.com/gh_mirrors/mm/mmpretrain 项目介绍 MMPreTrain 是一个基于PyTorch的开源预训练工具箱，隶属于广受欢迎的OpenMMLab项目系列。它集成了一系列强大...
【OpenMMLab】MMPretrain 代码教程
DplusC的博客
06-07 750
MMPretrain 是一个全新升级的预训练开源算法框架，旨在提供各种强大的预训练主干网络，并支持不同的预训练策略。MMPretrain 源自 MMClassification 和MMSelfSup，并开发了许多新功能。预训练阶段对于视觉识别至关重要，凭借丰富而强大的预训练模型，能够用于改进各种下游视觉任务。代码库旨在成为一个易于使用和用户友好的代码库，并简化学术研究活动和工程任务。
开源预训练框架 MMPRETRAIN官方文档（概览、环境安装与验证、基础用户指南）
qq_41627642的博客
07-07 6277
在本节中，我们将演示如何使用 PyTorch 准备环境。MMPretrain 适用于 Linux、Windows 和 macOS。它需要 Python 3.7+、CUDA 10.2+ 和 PyTorch 1.8+。在本教程中，我们提供了一个练习示例以及一些有关如何在您自己的数据集上进行训练的技巧。在 MMPretrain 中，我们支持CustomDataset（类似于ImageFolderin torchvision），可以直接读取指定文件夹内的图像。
openmmlab实战训练营-mmpretrain代码介绍
weixin_43224926的博客
06-08 211
了解配置文件，mmpretrain的配置文件都是在configs目录下，以configs/resnet/resnet18_8xb16_cifar10.py为例进行说明。这里对应的openmmlab配置文件的继承机制，组合了四个配置文件，包括model、datasets、schedules和default_runtime。环境配置：pytorch1.10 + cuda11.3。根据自己的特定任务修改配置文件中的参数即可。default_runtime配置文件。下载mmpretrain代码库。
2023-4-8-笔记-第一阶段-第2节-分支循环语句-3.4.1练习参考代码：-2024.5.10
05-10
2023-04-08 项目笔记-第一阶段-第2节-分支和循环语句-3.2.5一道笔试题：3.3do...while循环 3.3.1do语句的语法：3.3.2执行流程 3.3.3do语句的特点 3.3.4do while循环中的break和continue 3.4练习 3.4.1练习参考代码：...
动手学深度学习PyTorch版2.2数据预处理-笔记&练习详解-jupyter源代码
03-25
李沐老师动手学深度学习PyTorch版2.2数据预处理-笔记&练习详解-jupyter源代码
动手学深度学习2.1数据操作-笔记&练习（PyTorch）-jupyter源代码
03-25
李沐老师动手学深度学习PyTorch版2.1数据操作-笔记&练习详解-jupyter源代码
动手学深度学习2.4微积分-笔记&练习详解（PyTorch）-Jupyter源代码
04-03
动手学深度学习2.4微积分-笔记&练习详解（PyTorch）-Jupyter源代码
动手学深度学习2.3线性代数-笔记&练习详解（PyTorch）-Jupyter源代码
04-01
动手学深度学习2.3线性代数-笔记&练习详解（PyTorch）-Jupyter源代码
【AI】使用MMPreTrain进行图像分类
zhoulizhu的博客
12-05 773
之前已经配置好了MMLab的开发环境，有兴趣的可以去看一下接下来我们使用MMPretrain进行图像分类来尝试一下熟肉的感觉。MMPreTrain的官方文档地址是，Github地址是https://github.com/open-mmlab/mmpretrainMMPreTrain是从MMClassification和MMSelfSup发展而来的，是一个预训练模型的工具包，非常适合开箱即用的操作。
【OpenMMLab AI实战营第二期】MMPretrain基本使用
JeffDing
06-06 1380
MMPretrain 是一个全新升级的预训练开源算法框架，旨在提供各种强大的预训练主干网络， 并支持了不同的预训练策略。MMPretrain 源自著名的开源项目 MMClassification 和 MMSelfSup，并开发了许多令人兴奋的新功能。目前，预训练阶段对于视觉识别至关重要，凭借丰富而强大的预训练模型，我们能够改进各种下游视觉任务。我们的代码库旨在成为一个易于使用和用户友好的代码库库，并简化学术研究活动和工程任务。我们在以下不同部分中详细介绍了 MMPretrain 的特性和设计。
从数据采集到部署，手把手带你训练一个高质量的图像分类模型
qq_39967751的博客
06-11 1482
本文来自社区投稿，作者李剑锋MMPreTrain 是一款基于 PyTorch 的开源深度学习预训练工具箱，本文将从数据采集到部署，手把手带大家使用 MMPreTrain 算法库训练一个高质量的图像分类模型。
将MAE方法用于reflacx数据集--MMpretrain/slurm
最新发布
weixin_45861496的博客
06-12 1089
得到的epoch_400.pth可以用作预训练模型参数啦，下一步就是评估这个模型参数。
【深度学习实践】面部表情识别，深度学习分类模型，mmpretrain用于分类的实用教程，多任务网络头
q742971636的博客
03-15 1380
超过42万张图，AffectNet数据集的标注类型包括表情类型和幅度，其中表情类型包括中⽴、⾼兴、悲伤、惊讶、害怕、厌恶、愤怒和轻蔑8种基本表情，以及⽆表情、不确定和⽆⼈脸。csv文件类似excel表，第一列是subDirectory_filePath表示了图片路径，expression这一列就是表情的类别，其他列暂时无用。有的图片无法正常读取，依靠下面的程序可以过滤validation.txt中不正常的行，同理可以过滤training.txt.11个类别，标记是0到10。AffectNet数据集。
MMPretrain代码课笔记（配置文件）
cjywzj123的博客
06-07 427
模型配置文件：一些初始化参数，backbone主干网络，一个resnet网络用于特征提取，neck是pooling层把backbone提取每张图的特征转为1维向量，head分类头。checkpoint权重保存配置，可以设置max_keep_ckpys=5参数保存最后几个权重，save_best='auto'就会保存目前为止精度最高的模型。注意：配置文件在加载完成后，中间变量的连接关系就没有了，即train_dataloader的type与变量dataset_type没有连接了。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值