OpenMMLab-4-深度学习预训练与MMPretrain

最新推荐文章于 2024-08-12 16:25:03 发布

SP Gao

最新推荐文章于 2024-08-12 16:25:03 发布

阅读量270

点赞数

文章标签：深度学习神经网络人工智能

本文链接：https://blog.csdn.net/sinat_29552897/article/details/131056849

版权

MMPreTrain是一个预训练算法框架，整合多种主干网络如ResNet和Transformer，支持自监督学习策略如SimCLR和MAE。通过预训练提升视觉识别任务性能，利用未标注数据进行学习。多模态算法如CLIP和BLIP也被涵盖，为图像-文本对学习提供解决方案。

摘要由CSDN通过智能技术生成

一、MMPreTrain 算法库介绍

MMPretrain 是一个全新升级的预训练开源算法框架，旨在提供各种强大的预训练主干网络，并支持了不同的预训练策略。
MMPretrain 源自 MMClassification 和MMSelfSup，并开发了许多令人兴奋的新功能。目前，预训练阶段对于视觉识别至关重要，凭借丰富而强大的预训练模型，我们能够改进各种下游视觉任务。我们的代码库旨在成为一个易于使用和用户友好的代码库，并简化学术研究活动和工程任务。

算法库与任务组成

仓库：https://github.com/open-mmlab/mmpretrain
文档教程：https://mmpretrain.readthedocs.io/en/latest

在这里插入图片描述

框架概览

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

SP Gao

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

深度学习预训练库，集成各种经典backbone，基于OpenMMLab-MMPretrain库！！！

08-08

深度学习 【项目资源】：包含前端、后端、移动开发、人工智能、物联网、信息化管理、数据库、硬件开发、大数据、课程资源，毕业设计等各种技术项目的源码。包括C++、Java、python、web、C#、EDA等项目的源码。 ...

深度学习预训练库，集成各种经典backbone，基于OpenMMLab-MMPretrain库！！！.zip

02-11

【项目资源】：包含前端、后端、移动开发、操作系统、人工智能、物联网、信息化管理、数据库、硬件开发...有任何使用上的问题，欢迎随时与博主沟通，博主会及时解答。鼓励下载和使用，并欢迎大家互相学习，共同进步。

参与评论您还未登录，请先登录后发表或查看评论

深度学习预训练与MMPretrain

shinsonwu的博客

06-06

207

它是一个强大的预训练模型工具箱，支持多种预训练模型算法，包括自监督学习、多模态学习等。MMPreTrain预训练工具箱基于PyTorch，提供了一个简单易用的API和丰富的功能，可以方便地进行模型定义、训练和评估。使用MMPreTrain预训练工具箱，您可以快速实现预训练模型，并在各种视觉和自然语言处理任务上获得优秀的性能表现。它包含了多种前沿的预训练模型算法，包括自监督学习、多模态学习等，广泛应用于各种视觉和自然语言处理任务。这边也学习了一下，看的云里雾里。ResNet2015,论文引用让人惊叹啊！

深度学习预训练与MMPreTrain

travel_66的博客

06-06

346

MMPreTrain是一个全新升级的预训练开源算法框架，提供各种强大的预训练主干网络，支持了不同的预训练策略。合并了MMClassification和MMSelfSup，有利于用户对不同模型进行筛选。

【mmpretrain/mmdeploy】mmpretrain的使用。将mmpretrain的模型转换为engine

最新发布

qq_46110320的博客

08-12

935

使用mmpretrain中的resnet50来训练自己数据集的教程，我做的是两个类别的图像分类任务。我是直接在原来的resnet基础上进行修改的，其实应该复制一份再操作，这里图简单。

04 深度学习预训练与MMPretrain

qq_44785633的博客

06-06

661

记录时间：2023年6月6日。

mmpretrain介绍

m0_54741987的博客

06-08

647

需要先安装OpenMMLab mmpretrain库并下载猫狗图片数据集，然后参照官方文档中的教程进行模型训练、测试和预测。其中，${CONFIG_FILE}和${CHECKPOINT_FILE}是配置文件和模型权重文件的路径，${IMAGE_PATH}是需要预测的图像路径，可以是单张图像或一组图像路径。也可以选择其他的模型。它提供了一个端到端的分类器训练框架，包括数据加载，模型构建，模型训练和评估等功能。从官方网站下载cifar-10数据集，按照mmcls的要求，将数据集划分为训练集和验证集。

基于OpenMMLab-MMPretrain的深度学习预训练库及其多技术项目源码

资源摘要信息:"深度学习预训练库，集成各种经典backbone，基于OpenMMLab-MMPretrain库" 在当今人工智能的发展浪潮中，深度学习技术作为核心驱动力之一，已经广泛应用于图像识别、自然语言处理、语音识别、推荐系统...

深度学习预训练库，集成各种经典backbone，基于OpenMMLab_MMPretrain库！！！.zip

01-13

总之，深度学习预训练库是加速AI项目开发的强大工具，OpenMMLab-MMPretrain库为开发者提供了丰富的预训练模型和便利的开发环境，无论是初学者还是经验丰富的专业人士，都能从中受益。通过深入学习这些内容，你将能够...

开源预训练框架 MMPRETRAIN官方文档（概览、环境安装与验证、基础用户指南）

qq_41627642的博客

07-07

6279

在本节中，我们将演示如何使用 PyTorch 准备环境。MMPretrain 适用于 Linux、Windows 和 macOS。它需要 Python 3.7+、CUDA 10.2+ 和 PyTorch 1.8+。在本教程中，我们提供了一个练习示例以及一些有关如何在您自己的数据集上进行训练的技巧。在 MMPretrain 中，我们支持CustomDataset（类似于ImageFolderin torchvision），可以直接读取指定文件夹内的图像。

mmpretrain学习笔记

吃葡萄不吐葡萄皮

09-29

575

（4）数据集路径 data_root=‘data/imagenet’–》data_root=‘data/Fruits Dataset/images’（7）适当的修改num_workers、epochs、batch_size、lr等。3、训练优化：梯度下降算法、学习率参数、训练总轮次、学习率变化策略等。my_resnet18_8xb32_in1k.py 完整的配置文件。（6）split=‘train’、split='val’注释掉。2、数据：数据集划分、数据文件路径、批大小、数据增强策略等。

MMPretrain理论学习

zebraZhangCheng的博客

06-06

211

谈到transformer的注意力机制，主要是在卷积上加成了一个函数。也提到了多头注意力相当于多通道分开的注意力卷积后的级联。图像文本对的clip目标函数借鉴了对比学习：拉近正样本，退远负样本。最后用prompt的方法，可以把clip变成一个分类器，居然比传统的分类器好很多。只训练其中的桥接不分的Q-former。并且现在越来越有和LLM一样的范式：在预训练模型的基础上对下游任务进行调优。4.最让我感到诧异的其实是提高对比学习和MAE掩码学习的融合。才知道现在大名鼎鼎的DINO，居然就是这两种方式的融合。

利用MMPreTrain微调图像分类模型

qq_20144897的博客

08-02

6936

利用MMPreTrain库微调图像分类模型，讲解了配置文件的各组成部分，并说明了如何修改配置文件

【OpenMMLab AI实战营二期笔记】第四天 深度学习预训练与MMPretrain

qq_41776136的博客

06-06

384

MMPretrain是一个全新升级（MMPretrain originates from MMClassification and MMSelfSup ）的预训练开源算法框架，旨在提供各种强大的预训练主干网络，并支持了不同的预训练策略。主要功能：（1）：包括主干模型、自监督学习算法、多模态学习算法（2）：COCO、ImageNet等常见数据集（3）：优化器与学习率策略、数据增强策略（4）

开源预训练框架 MMPRETRAIN官方文档（高级指南）

qq_41627642的博客

07-13

2276

在新的数据集教程中，我们知道数据集类使用该load_data_list方法来初始化整个数据集，并将每个样本的信息保存到一个字典中。通常，为了节省内存使用，我们只加载load_data_list 中的图像路径和标签，并在使用时加载完整的图像内容。此外，我们可能希望在训练时选取样本时进行一些随机数据增强。几乎所有的数据加载、预处理和格式化操作都可以通过数据管道在 MMPretrain 中配置。数据管道意味着当从数据集中索引样本时如何处理样本字典。它由一系列数据转换组成。

openmmlabAI实战训练营6.5mmpretrain理论部分

Ezrealok的博客

06-05

172

3.训练优化：梯度下降算法，学习率参数，训练总轮次，学习率变化策略等。对于某种图片x，对它做数据增强产生x1和x2，x1和x2互为正样本，其他图片的数据增强结果都是x1和x2的负样本。mmpretrain提供了丰富的模型：主干模型（VGG,ResNet，DenseNet，MobileNet，Shufflenet，ViT,SwinTransformer），自监督学习（MoCo，SIMCLRU，BEiT,MAE），多模态学习（CLIP,BLIP,Flamingo，DFA）等等。仅根据自己的理解记录一下。

上手OpenMMLab——MMpretrain讲解与实战

Yuetian_w的博客

11-15

593

今天的课程内容比较工程化，这里选取一些重点来记录。

mmpretrain库理论叙述

m0_54824511的博客

06-05

367

mmpretrain主要处理以下任务：图像分类(lmage Classification)、图像描述(lmage Caption)、视觉问答(Visual Question Answering)、视觉定位 (Visual Grounding)、检索(Retrieval,lmage-To-lmage, Text-To-lmage,lmage-To-Text)。拉进正样本文本对（eg. I_1 & T_1），推远负样本文本对（eg. I_3 & T_N），以此来完成文本侧和图像侧结合后的特征表达优化。