OpenMMLab AI 实战营2023（笔记）：2、图像分类与MMClassification

最新推荐文章于 2024-01-31 20:05:12 发布
最新推荐文章于 2024-01-31 20:05:12 发布
阅读量734 收藏 3
点赞数
分类专栏： OpenMMLab 文章标签： 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43781113/article/details/128908508
版权

目录

一、引言

1、超越规则：让机器从数据中学习

2、传统方法：设计图像特征 (1990s~2000s)

3、特征工程的天花板

4、从特征工程到特征学习

5、层次化特征的实现方式

6、AlexNet 的诞生 & 深度学习时代的开始

7、课程内容

二、卷积神经网络

1、AlexNet (2012)

2、Going Deeper (2012~2014)

3、VGG (2014)

4、GoogLeNet (Inception v1, 2014)

5、残差网络 ResNet (2015)

三、更强的图像分类模型

1、神经结构搜索 Neural Architecture Search (2016+)

2、Vision Transformers (2020+)

3、ConvNeXt (2022)

4、图像分类 & 视觉基础模型的发展

四、轻量化卷积神经网络

1、卷积的参数量

2、卷积的计算量（乘加次数）

3、降低模型参数量和计算量的方法

4、GoogLeNet 使用不同大小的卷积核

5、ResNet 使用1×1卷积压缩通道数

6、可分离卷积

7、MobileNet V1/V2/V3 (2017~2019)

8、ResNeXt 中的分组卷积

五、Vision Transformers

1、注意力机制 Attention Mechanism

2、Vision Transformer (2020)

3、Swin Transformer (ICCV 2021 best paper)

六、模型学习

1、模型学习的范式

2、交叉熵损失 Cross-Entropy Loss

3、优化目标 & 随机梯度下降

4、动量 Momentum SGD

5、基于梯度下降训练神经网络的整体流程

6、训练技巧的重要性

七、学习率与优化器策略

1、权重初始化

2、学习率对训练的影响

3、学习率策略：学习率退火 Annealing

4、学习率策略：学习率升温 Warmup

5、Linear Scaling Rule

6、自适应梯度算法

7、正则化与权重衰减 Weight Decay

8、模型权重平均 EMA

八、数据增强

1、数据增强 Data Augmentation

2、组合数据增强 AutoAugment & RandAugment

3、组合图像 Mixup & CutMix

4、标签平滑 Label Smoothing

九、模型相关策略

1、丢弃层 Dropout

2、随机深度 Stochastic Depth

十、自监督学习

1、自监督学习的常见类型

2、Relative Location (ICCV 2015)

3、SimCLR (ICML 2020)

4、Masked autoencoders (MAE, CVPR 2022)

十一、总结

十二、MMClassification 介绍

1、Python 推理 API

2、推理工具（需源码安装）

3、训练工具（需源码安装）

4、使用 MIM 工具实现训练和测试

5、环境搭建

6、OpenMMLab 项目中的重要概念——配置文件

7、OpenMMLab 项目中的重要概念——配置文件

8、配置文件的运作方式

9、图像分类模型的构成

10、图像分类模型构建

11、数据集构建

12、定义数据加载流水线

13、配置学习策略

14、预训练模型库

一、引言

1、超越规则：让机器从数据中学习

2、传统方法：设计图像特征 (1990s~2000s)

3、特征工程的天花板

4、从特征工程到特征学习

5、层次化特征的实现方式

6、AlexNet 的诞生 & 深度学习时代的开始

7、课程内容

二、卷积神经网络

1、AlexNet (2012)

2、Going Deeper (2012~2014)

3、VGG (2014)

4、GoogLeNet (Inception v1, 2014)

精度退化问题

实验的反直觉

残差学习的基本思路

5、残差网络 ResNet (2015)

 ResNet 中的两种残差模块

ResNet 的成就和影响力

ResNet 是深浅模型的集成

残差链接让损失曲面更平滑

 ResNet 的后续改进

三、更强的图像分类模型

1、神经结构搜索 Neural Architecture Search (2016+)

2、Vision Transformers (2020+)

3、ConvNeXt (2022)

4、图像分类 & 视觉基础模型的发展

 

四、轻量化卷积神经网络

1、卷积的参数量

2、卷积的计算量（乘加次数）

3、降低模型参数量和计算量的方法

4、GoogLeNet 使用不同大小的卷积核

5、ResNet 使用1×1卷积压缩通道数

6、可分离卷积

7、MobileNet V1/V2/V3 (2017~2019)

8、ResNeXt 中的分组卷积

五、Vision Transformers

1、注意力机制 Attention Mechanism

Why Attention？

实现 Attention

多头注意力 Multi-head (Self-)Attention

1D 数据上的 Attention

2、Vision Transformer (2020)

3、Swin Transformer (ICCV 2021 best paper)

六、模型学习

1、模型学习的范式

监督学习

2、交叉熵损失 Cross-Entropy Loss

3、优化目标 & 随机梯度下降

4、动量 Momentum SGD

5、基于梯度下降训练神经网络的整体流程

6、训练技巧的重要性

七、学习率与优化器策略

1、权重初始化

2、学习率对训练的影响

3、学习率策略：学习率退火 Annealing

4、学习率策略：学习率升温 Warmup

5、Linear Scaling Rule

6、自适应梯度算法

7、正则化与权重衰减 Weight Decay

8、模型权重平均 EMA

八、数据增强

1、数据增强 Data Augmentation

2、组合数据增强 AutoAugment & RandAugment

3、组合图像 Mixup & CutMix

4、标签平滑 Label Smoothing

九、模型相关策略

1、丢弃层 Dropout

2、随机深度 Stochastic Depth

十、自监督学习

1、自监督学习的常见类型

2、Relative Location (ICCV 2015)

3、SimCLR (ICML 2020)

4、Masked autoencoders (MAE, CVPR 2022)

十一、总结

十二、MMClassification 介绍

代码仓库：https://github.com/open-mmlab/mmclassification
文档教程：https://mmclassification.readthedocs.io/en/latest/

1、Python 推理 API

2、推理工具（需源码安装）

3、训练工具（需源码安装）

使用说明：https://mmclassification.readthedocs.io/en/latest/getting_started.html#train-a-model

4、使用 MIM 工具实现训练和测试

5、环境搭建

6、OpenMMLab 项目中的重要概念——配置文件

7、OpenMMLab 项目中的重要概念——配置文件

8、配置文件的运作方式

9、图像分类模型的构成

10、图像分类模型构建

11、数据集构建

12、定义数据加载流水线

13、配置学习策略

14、预训练模型库

Model Zoo Summary — MMClassification 0.25.0 documentation

α2022
关注
  • 0
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
基于MAE的人脸素描图像属性识别和分类
一只博客
07-06 3022
关于MAE的介绍和原理可以参考下面这篇博客【论文和代码阅读】Masked Autoencoders Are Scalable Learners (MAE)_Toblerone_Wind的博客-CSDN博客1. 原文和代码先贴一下MAE的论文链接https://github.com/facebookresearch/maehttps://github.com/facebookresearch/mae紧随其后的是代码复现https://github.com/facebookresearch/maehttps:/
OpenMMlab导出swin-transformer模型并用onnxruntime和tensorrt推理
taifyang的博客
10-21 858
通过mmpretrain 导出swin-transformer的onnx文件非常容易，注意需设置 opset_version=12这里是一个坑，刚开始设置的opset_version=11后续转换trtengine的时候会有问题。第三个坑是如果不加上–workspace参数可能会因内存不足报错，LZ的机器有32G内存索性就设了20G的工作空间，可以根据自己的内存大小酌情设置该参数。mmdeploy导出LZ没有尝试成功，不知道是环境配置问题还是在windows系统下库的bug。python推理：（待补充）
【A图像分类实战】2024 Pytorch搭建AlexNet、VGG16、GoogleNet等共5个模型实现COIL20数据集图像20分类完整项目(项目已开源）
炼丹笔记
12-07 3978
亮点：代码开源+结构清晰规范+准确率高+保姆级解析+易适配自己数据集+附原始论文+适合新手
图像分类的发展史
是我的博客
01-31 1770
创建者：ImageNet由李飞飞教授的团队在斯坦福大学创建。规模：ImageNet包含超过 1,000 万的带有标签的高分辨率图像，覆盖 2 万多个类别。结构：数据集的结构是基于 WordNet 的层次结构（每个同义词集表示一个概念），并且以此组织图像。用途：广泛用于训练深度学习模型，尤其是卷积神经网络(CNN)，在计算机视觉领域具有ImageNet 在图像分类领域的发展起到了革命性的推动作用。
分享 | 视觉无监督学习新范式：MAE
shenlanshenyanai的博客
12-03 2790
近日，FAIR的最新论文《Masked Autoencoders Are Scalable Vision Learners》提出了一种更简单有效的用于ViT无监督训练的方法MAE，并在ImageNet-1K数据集上的top-1 acc达到新的SOTA：87.8%（无额外训练数据）。 自从ViT火了之后，一些研究者就开始尝试研究ViT的无监督学习，比如Mocov3用对比学习的方法无监督训练ViT，此外也有一些研究开始借鉴BERT中的MLM（masked language modeling）方法，比如BEi.
交大PPT通用视觉框架OpenMMlab课程02图像分类与MMClassification
11-27
【交大PPT】通用视觉框架OpenMMlab课程02图像分类与MMClassification【交大PPT】通用视觉框架OpenMMlab课程02图像分类与MMClassification【交大PPT】通用视觉框架OpenMMlab课程02图像分类与MMClassification【交大...
ConvNeXt V2实战：使用ConvNeXt V2实现图像分类任务（一）
03-02
**ConvNeXt V2 实战指南：图像分类任务** ConvNeXt V2 是一个先进的卷积神经网络（CNN）架构，它在计算机视觉领域中用于图像分类任务表现出色。该模型的设计灵感来源于Transformer模型的结构，同时保留了卷积层的...
EfficientVMamba实战：使用 EfficientVMamba实现图像分类任务
最新发布
04-02
本文使用EcientVMamba模型实现图像分类任务，模型选择最小的EcientVMamba_T，在植物幼苗分类任务ACC达到了93%+，达到了ViM的水平。。 原文链接：...
AI基础实战营Day1ppt
02-02
【AI基础实战营Day1】课程主要探讨了计算机视觉领域，并深入介绍了OpenMMLab开源算法体系。计算机视觉是一门研究如何使机器“看”并理解图像和视频内容的科学。这一领域的应用广泛，从日常的微信扫一扫识物功能，到...
【论文笔记】CNN图像分类：从LeNet5到EfficientNet
zoroooooo的博客
10-09 1138
计算机视觉的三大任务 自从神经网络和深度学习方法引入到图像领域，经过近些年来的发展，从一开始的图像分类逐渐延伸到目标检测和图像分割领域，深度学习也逐渐在计算机视觉领域占据绝对的主导地位。如果要想利用深度学习技术开启计算机视觉领域的研究，明确并深刻理解计算机视觉的三大任务非常关键。计算机视觉三大任务如图1所示。 从图中我们可以简单描述计算机视觉三大任务的要义。图像分类就是要回答这张图像是一只猫的问题，跟传统的机器学习任务并无区别，只是我们的输入由数值数据变成图片数据。本节的内容就是介绍CNN在图像分类的发展历
深度学习(1) ——图像分类
one time one step的博客
03-31 8026
图像分类概述 图像分类实质上就是从给定的类别集合中为图像分配对应标签的任务，当我们输入一张图片，返回一个该图像类别的标签。 限制条件：只能输入单目标图像。 常用数据集：mnist、CIFAR-10、CIFAR-100、ImageNet 图像分类算法 这里介绍四种。 LeNet-5 意义：LeNet-5是最早的卷积神经网络，是其他深度学习模型的基础, 主要用来做手写数字识别。 结构：2个5x5卷积层 + 2个全连接层+ 输出层 输入：32x32 输出：10分类 tensorf
图像分类的前沿趋势：从传统算法到深度学习
禅与计算机程序设计艺术
12-25 141
1.背景介绍 图像分类是计算机视觉领域的一个重要研究方向，其主要目标是将图像中的物体或场景自动识别并分类。随着数据量的增加和计算能力的提高，图像分类技术已经从传统的手工工程学方法发展到深度学习方法。本文将从传统算法到深度学习的图像分类技术进行全面的回顾和分析。 1.1 传统图像分类算法
ICLR 2023 超高分工作｜把图片视为点集，简单聚类算法实现强悍视觉架构
夕小瑶科技说
01-06 1934
编｜科技猛兽源｜极市平台在本文中，作者回顾了视觉表征的一类经典方法：聚类 (Clustering) 。作者将这种范式称之为上下文聚类 (Context Cluster)。这是一种新的用于视觉表征的特征提取范式。并在多种视觉任务中取得了和 ConvNets，ViTs 相当的性能。1.1 把图片视为点集，简单聚类算法实现强悍视觉架构论文名称：Image as Set of Points论文地址：h...
计算机视觉（二）图像分类
weixin_37699342的博客
12-20 4028
目录 一、图像分类 难点：对问题的拆解 目前流行的图像分类方法 分类器设计与学习 图像表示 分类器 损失函数 优化算法 训练过程 评价指标 一、图像分类 图像分类：核心任务，根据图像信息中的不同特征，对图像进行分类。从已知的类别标签集合中为给定的输入图片选定一个类别标签。 应用：软件识图 难点：对问题的拆解 语义到像素的映射：像素是底层的用字节表示，语义是高层的 视角：人脸正面与侧面 光照：光线变化 尺度：尺度大小是相对的，自适应远近 遮挡： 形变：猫 背景杂
CNN图像分类网络发展简介
Enochzhu的博客
06-11 1906
CNN图像分类网络 一点废话：CNN网络主要特点是使用卷积层，这其实是模拟了人的视觉神经，单个神经元只能对某种特定的图像特征产生响应，比如横向或者纵向的边缘，本身是非常简单的，但是这些简单的神经元构成一层，在层数足够多后，就可以获取足够丰富的特征。从机制上讲，卷积神经网络与人的视觉神经还真是像。下面进入正题。 LeNet（1998） 网络基本架构为：conv1 (6) -> pool1 -> conv2 (16) -> pool2 -> fc3 (120) -> fc4 (84
【论文阅读】从经典网络结构理解图像分类模型的发展（三）——GoogLeNet/Inception
1
01-29 919
GoogleNet及其Inception系列模型在深度学习领域是非常重要的里程碑，它们推动了网络架构的创新，并对后续的网络设计产生了深远影响。然而，随着深度学习技术的不断进步，一些特性被新的设计理念所取代，而其他一些特性则被保留并进一步发展。被淘汰的特性：5x5 卷积：随着Inception模型的发展，大尺寸的卷积核（如5x5）被逐渐淘汰，因为它们计算成本高，效率低下。在后续版本中，更多地使用了分解卷积的策略，例如使用一系列较小的卷积核（如3x3 或 1x1）来替代。辅助分类器。
图像分类简单介绍
百年孤独百年的博客
05-11 3272
图像分类是计算机视觉领域的一个基本任务，其目标是将输入的图像分配给某个预定义的类别（即标签）。在本教程中，我们将介绍图像分类的基本概念、背景和意义，以及传统的和基于深度学习的图像分类方法。
深度学习中图像分类模型的发展现状，1000字以上，列出具体的模型。
weixin_35750747的博客
01-14 303
深度学习在图像分类领域取得了显著的成果，其中最为有名的模型包括： 1.LeNet：由Yann LeCun首创的卷积神经网络，是最早的卷积神经网络之一，在MNIST数据集上取得了很高的准确率。 2.AlexNet：2012年ImageNet比赛上获胜的模型，引入了数据增强、Dropout等技巧，提高了模型的泛化能力。 3.VGGNet：2014年ImageNet比赛上获胜的模型，采用了更深的网络结构...
计算机视觉+人工智能面试笔试总结——使用CNN进行图像分类
FPGA/MATLAB学习教程/源码/项目合作开发
08-27 1128
图像分类顾名思义就是一个模式分类问题，它的目标是将不同的图像，划分到不同的类别，实现最小的分类误差。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值