AI实战营：深度学习预训练与MMPreTrain

已于 2023-06-05 23:51:02 修改
阅读量1.1k 收藏 1
点赞数
文章标签： 人工智能 深度学习 机器学习
于 2023-06-05 23:04:22 首次发布
本文为博主原创文章，未经博主允许不得转载。
本文链接：https://blog.csdn.net/guwuyue/article/details/131055290
版权

目录

一、MMPretrain算法库介绍

二、经典主干网络

残差网络ResNet（2015）

Vision Transformer(2020)

三、自监督学习

四、多模态算法

 

一、MMPretrain算法库介绍

  • 算法库与任务组成&框架概览
    • 预训练工具箱MMPretrain

    • Python推理API
    • 环境搭建
    • OpenMMLab项目中的重要概念——配置文件
    • 代码框架
    • 数据流
    • 配置文件的运行方式

二、经典主干网络

  • 深度神经网络
  • 精度退化问题
  • 实验的反直觉
  • 残差学习的基本思路
  • ResNet中的两种残差模块

  • 残差网络ResNet（2015）

  • ResNet的成就和影响力

  • Vision Transformer(2020)

    • 注意力机制Attention Mechanism

      • Why Attention

      • Attention for 1D data

      • Multi-head

三、自监督学习

  • 自监督学习的常见类型
  • SIMCLR（ICML 2020）

  • MAE（Masked Autoencoders, CVPR 2022）

     

四、多模态算法

  • CLIP（ICML 2021）

BLIP

 

guwuyue
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
深度学习训练营：21 天实战 TensorFlow + Keras + scikit-learn
05-23
基于 TensorFlow、Keras 和 scikit-learn，介绍了 21 个典型的人工智能应用场景。 这些应用场景被分类为预测类项目实战、识别类项目实战和生成类项目实战。 其中预测类项目包括房价预测、泰坦尼克号生还预测、共享...
人工智能：深度学习从入门到精通体系课2022
08-08
人工智能：深度学习从入门到精通2022，课程从框架到模型，从理论到实战，循序渐进系统进阶。结合几十个配套案例，全面覆盖深度学习核心应用场景，具体包含：数据使用、图像分类、图像分割、目标检测、图像生成GAN、...
上手OpenMMLab——MMpretrain讲解与实战
Yuetian_w的博客
11-15 459
今天的课程内容比较工程化，这里选取一些重点来记录。
开源预训练框架 MMPRETRAIN官方文档（概览、环境安装与验证、基础用户指南）
qq_41627642的博客
07-07 5311
在本节中，我们将演示如何使用 PyTorch 准备环境。MMPretrain 适用于 Linux、Windows 和 macOS。它需要 Python 3.7+、CUDA 10.2+ 和 PyTorch 1.8+。在本教程中，我们提供了一个练习示例以及一些有关如何在您自己的数据集上进行训练的技巧。在 MMPretrain 中，我们支持CustomDataset（类似于ImageFolderin torchvision），可以直接读取指定文件夹内的图像。
从数据采集到部署，手把手带你训练一个高质量的图像分类模型
最新发布
qq_39967751的博客
06-11 872
本文来自社区投稿，作者李剑锋MMPreTrain 是一款基于 PyTorch 的开源深度学习预训练工具箱，本文将从数据采集到部署，手把手带大家使用 MMPreTrain 算法库训练一个高质量的图像分类模型。
mmpretrain库理论叙述
m0_54824511的博客
06-05 333
mmpretrain主要处理以下任务：图像分类(lmage Classification)、图像描述(lmage Caption)、视觉问答(Visual Question Answering)、视觉定位 (Visual Grounding)、检索(Retrieval,lmage-To-lmage, Text-To-lmage,lmage-To-Text)。拉进正样本文本对（eg. I_1 & T_1），推远负样本文本对（eg. I_3 & T_N），以此来完成文本侧和图像侧结合后的特征表达优化。
【OpenMMLab AI实战营第二期】MMPretrain基本使用
JeffDing
06-06 1252
MMPretrain 是一个全新升级的预训练开源算法框架，旨在提供各种强大的预训练主干网络， 并支持了不同的预训练策略。MMPretrain 源自著名的开源项目 MMClassification 和 MMSelfSup，并开发了许多令人兴奋的新功能。目前，预训练阶段对于视觉识别至关重要，凭借丰富而强大的预训练模型，我们能够改进各种下游视觉任务。我们的代码库旨在成为一个易于使用和用户友好的代码库库，并简化学术研究活动和工程任务。我们在以下不同部分中详细介绍了 MMPretrain 的特性和设计。
深度学习预训练与MMPretrain
shinsonwu的博客
06-06 180
它是一个强大的预训练模型工具箱，支持多种预训练模型算法，包括自监督学习、多模态学习等。MMPreTrain预训练工具箱基于PyTorch，提供了一个简单易用的API和丰富的功能，可以方便地进行模型定义、训练和评估。使用MMPreTrain预训练工具箱，您可以快速实现预训练模型，并在各种视觉和自然语言处理任务上获得优秀的性能表现。它包含了多种前沿的预训练模型算法，包括自监督学习、多模态学习等，广泛应用于各种视觉和自然语言处理任务。这边也学习了一下，看的云里雾里。ResNet2015,论文引用让人惊叹啊！
知识领域： 人工智能 技术关键词： 深度学习 内容关键词： TensorFlow框架 用途： 构建和训练神经网络
04-04
知识领域： 人工智能 技术关键词： 深度学习 内容关键词： TensorFlow框架 用途： 构建和训练神经网络 对资源的描述： 该资源是一本深入讲解TensorFlow框架的实用指南，涵盖了从基础概念到高级应用的全面内容。它...
人工智能：深度学习入门到精通实战
07-01
《人工智能：深度学习入门到精通实战》课程主要就人工智能领域相关的深度学习基础、深度学习计算、卷积神经网络+经典网络、循环神经网络+RNN进阶、优化算法、计算机视觉和自然语言处理等，配套实战案例与项目全部...
开源预训练框架 MMPRETRAIN官方文档（高级指南）
qq_41627642的博客
07-13 1982
在新的数据集教程中，我们知道数据集类使用该load_data_list方法来初始化整个数据集，并将每个样本的信息保存到一个字典中。通常，为了节省内存使用，我们只加载load_data_list 中的图像路径和标签，并在使用时加载完整的图像内容。此外，我们可能希望在训练时选取样本时进行一些随机数据增强。几乎所有的数据加载、预处理和格式化操作都可以通过数据管道在 MMPretrain 中配置。数据管道意味着当从数据集中索引样本时如何处理样本字典。它由一系列数据转换组成。
MMPretrain理论学习
zebraZhangCheng的博客
06-06 179
谈到transformer的注意力机制，主要是在卷积上加成了一个函数。也提到了多头注意力相当于多通道分开的注意力卷积后的级联。图像文本对的clip目标函数借鉴了对比学习：拉近正样本，退远负样本。最后用prompt的方法，可以把clip变成一个分类器，居然比传统的分类器好很多。只训练其中的桥接不分的Q-former。并且现在越来越有和LLM一样的范式：在预训练模型的基础上对下游任务进行调优。4.最让我感到诧异的其实是提高对比学习和MAE掩码学习的融合。才知道现在大名鼎鼎的DINO，居然就是这两种方式的融合。
上手OpenMMLab——实战MMPretrain
Yuetian_w的博客
06-19 915
MMPretrain 是一个全新升级的预训练开源算法框架，旨在提供各种强大的预训练主干网络， 并支持了不同的预训练策略。MMPretrain 源自著名的开源项目和MMSelfSup，并开发了许多令人兴奋的新功能。
【OpenMMLab AI实战营二期笔记】第四天 深度学习预训练与MMPretrain
qq_41776136的博客
06-06 315
MMPretrain是一个全新升级（MMPretrain originates from MMClassification and MMSelfSup ）的预训练开源算法框架，旨在提供各种强大的预训练主干网络，并支持了不同的预训练策略。主要功能：（1）：包括主干模型、自监督学习算法、多模态学习算法（2）：COCO、ImageNet等常见数据集（3）：优化器与学习率策略、数据增强策略（4）
AI实战训练营&预训练与MMPreTrain
shengweiit的博客
06-05 166
目前，预训练阶段对于视觉识别至关重要，凭借丰富而强大的预训练模型，我们能够改进各种下游视觉任务，我们的代码库旨在成为一个易于使用和用户友好的代码库，并简化学术研究活动和工程任务。MMPreTrain是一个全新升级的预训练开源算法框架，旨在提供各种强大的预训练主干网络，并支持不同的预训练策略。权重是可以学习的参数，但是与输入无关，只能建模局部关系，远距离关系只能通过多层卷积实现。权重是输入的函数，与输入有关，可以不局限于领域，显式建模远距离关系。支持多种训练策略（有监督学习，无监督学习，多模态学习等）
mmdetection 修改预训练模型权重类别数
weixin_39558227的博客
12-11 2431
修改预训练权重类别数 import os import torch import argparse def init_args(): parser = argparse.ArgumentParser() parser.add_argument("--org_path", type=str, help="the path of pretrained model") parse...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值