MMPretrain

最新推荐文章于 2024-07-11 23:31:47 发布
最新推荐文章于 2024-07-11 23:31:47 发布
阅读量68 收藏
点赞数
文章标签： 深度学习 计算机视觉 cnn python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_46310125/article/details/131052048
版权

MMPretrain

MMPretrain 融合了MMClassification和MMSelfSup，提供了各种强大的预训练主干网络

提供的工具: 强大的预训练主干网络、子监督学习网络、多模态学习、数据集的支持、训练技巧、提供一些易用的工具

安装

假设已经安装了MMCV、MMEngine、openmim

git clone https://github.com/open-mmlab/mmpretrain.git
cd mmpretrain
mim install -e .
# 多模态依赖
mim install -e ".[multimodal]"

推理API

提供各种任务的推理API

在这里插入图片描述

mmpretrain目录结构

apis: 顶层api接口，用于各类推理任务

datasets: 支持加载各种数据集，数据预处理

engine: 用于各种类钩子，例如优化器等

evaluation: 各类评测相关的函数和指标计算

models: 各类模型算法的定义，例如backbones、necks等

structures: DataSample的定义

utils: 相关工具

visualization: 可视化相关的工具

常用Backbone

  • VGG
  • ResNet
  • Vision Transformer

自监督

  • 图片上色
  • 拼图
  • 对比学习（SimCLR）
  • 基于掩码的学习（MAE）

多模态

主要就是研究怎么对齐图像和文本这种不同模态的数据

  • 双塔结构（CLIP）
  • 多损失结构（BLIP）

在这里插入图片描述

Crazy - ?
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
长尾问题之LDAM mmpretrain模块
12-15
"MMPretrain"可能指的是多任务预训练（Multi-Task Pretraining），这是一种训练策略，它利用多个相关任务的联合学习来提升模型的泛化能力。在处理长尾问题时，MMPretrain可能会结合不同的任务，如分类、检测等，以...
深度学习预训练库，集成各种经典backbone，基于OpenMMLab_MMPretrain库！！！.zip
01-13
对于初学者，OpenMMLab-MMPretrain库提供了一个良好的学习平台，它不仅包含了各种模型的实现，还有详尽的文档和示例代码，有助于理解深度学习模型的内部工作原理。对于有经验的开发者，这个库可以作为一个高效的工具...
mmpretrain介绍
m0_54741987的博客
06-08 542
需要先安装OpenMMLab mmpretrain库并下载猫狗图片数据集，然后参照官方文档中的教程进行模型训练、测试和预测。其中，${CONFIG_FILE}和${CHECKPOINT_FILE}是配置文件和模型权重文件的路径，${IMAGE_PATH}是需要预测的图像路径，可以是单张图像或一组图像路径。也可以选择其他的模型。它提供了一个端到端的分类器训练框架，包括数据加载，模型构建，模型训练和评估等功能。从官方网站下载cifar-10数据集，按照mmcls的要求，将数据集划分为训练集和验证集。
MMpretrain训练
weixin_39478158的博客
06-07 224
配置环境后，克隆MM代码，安装mmlab命令行工具openmim，利用其中指令安MM。根据配置文件修改参数，有模型、数据集、规划和运行四个配置文件。训练时在模型配置文件中增加模型预训练权重加快训练收敛速度。训练结束后测试，可用analyze等命令对测试保存的结果进行分析。通过inference API使用训练的模型对真实图片进行实验，相比inference_model能配置更多参数。
MMPretrain框架中将pth 文件导出成 onnx 文件
qq_44237926的博客
04-02 371
MMPretrain 是一个全新升级的预训练开源算法框架，旨在提供各种强大的预训练主干网络， 并支持了不同的预训练策略,
MMpretrain
weixin_39478158的博客
06-06 173
MMpretain是一个用来预训练模型的框架，目前支持很多经典的主干网络和多模态、自监督学习模型。经典主干网络，主要是ResNet系列，残差网络有效缓解了深层网络的网络退化表现。Vision transformer，主要是将图片token化，使用注意力机制，实现层次化特征学习。自监督学习，可以分为基于各种代理任务、基于对比学习和基于掩码学习。MAE认为模型只有理解图片的内容掌握图片上下文信息才能恢复图片中被遮挡的内容；IBOT结合了对比学习和掩码学习，DINOv2基于iBOT进行了改进。
包含mmdeploy、mmdetection、mmpretrain源码，已跑通可运行
03-02
《深度学习框架与模型部署详解：mmdeploy、mmdetection及mmpretrain源码剖析》 在现代计算机视觉领域，深度学习模型的开发和部署是至关重要的环节。本篇文章将详细探讨三个关键组件——mmdeploy、mmdetection以及...
【深度学习】数据增强基本介绍和常用的数据增强方法
F2ancisZ的博客
07-06 854
常用于深度学习模型的数据增强方法。包括传统基于图像处理的几何变换方法和基于GAN、领域自适应、主动学习等模型的方法。欢迎讨论。
深度学习中的超参数及超参数搜索算法
qlkaicx的博客
07-08 496
在深度学习中，超参数（Hyperparameters）是指在训练模型时需要预先设置的参数，它们不会在训练过程中自动更新，而是通过手动调整来优化模型的性能。超参数的设置对模型的训练效果有着至关重要的影响。
动手学深度学习（Pytorch版）代码实践 -循环神经网络-55循环神经网络的从零开始实现和简洁实现
李思成的博客
07-06 676
【代码】动手学深度学习（Pytorch版）代码实践 -循环神经网络-54~55循环神经网络的从零开始实现和简洁实现。
基于深度学习的高压线路巡线
weixin_42605076的博客
07-07 627
基于深度学习的高压线路巡线是一项通过无人机、机器人或固定摄像头等设备采集图像和视频数据，并利用深度学习技术自动检测和分析高压线路状态的技术。这项技术旨在提高巡检效率、降低人工成本和提升电力系统的安全性。
37.深度学习中的梯度下降法及其实现
qq_41238579的博客
07-10 465
梯度下降法（Gradient Descent）是一种常用的优化算法，广泛应用于机器学习和深度学习中。其基本思想是通过迭代更新参数，使得损失函数逐步减小，最终找到最优解。常见的梯度下降法包括随机梯度下降（SGD）、动量法（Momentum）、自适应学习率方法（Adagrad、RMSprop、Adadelta）和Adam等。本文通过代码实现详细展示了梯度下降法在二维和三维空间中的应用，并对比了多种优化器的效果。通过这些实践，我们能够更直观地理解梯度下降法的工作原理及其在深度学习中的应用。
深度学习 - 模型的保存与部署方式汇总
weixin_47552266的博客
07-06 1372
PyTorch 的默认保存格式，灵活支持保存整个模型、模型的权重和优化器状态。
动手学深度学习（Pytorch版）代码实践 -循环神经网络-51序列模型
李思成的博客
07-06 428
【代码】动手学深度学习（Pytorch版）代码实践 -循环神经网络-51序列模型。
Transformer——多头注意力机制（Pytorch）
最新发布
m0_52507142的博客
07-11 197
【代码】Transformer——多头注意力机制（Pytorch）
基于深度学习的异常行为检测
weixin_42605076的博客
07-06 883
基于深度学习的异常行为检测是一种通过分析视频或传感器数据自动检测异常行为的技术，广泛应用于公共安全、工业监控、金融欺诈检测等领域。异常行为检测旨在识别与正常行为模式不同的异常活动，从而及时预警和采取措施。
深度学习 - 模型剪枝技术详解
weixin_47552266的博客
07-09 1318
模型剪枝（Model Pruning）是一种通过减少模型参数来降低模型复杂性的方法，从而加快推理速度并减少内存消耗，同时尽量不显著降低模型性能。这种技术特别适用于资源受限的设备，如移动设备和嵌入式系统。模型剪枝通常应用于深度神经网络，尤其是卷积神经网络（CNNs）。通过本文的讲解和代码示例，您应该对模型剪枝技术有了更全面的了解。模型剪枝是一种有效的模型压缩技术，可以显著减少模型的计算和存储需求。在实际应用中，需要根据具体需求选择合适的剪枝方法和剪枝比例，并通过微调恢复剪枝后的模型性能。
卷积神经网络基础篇
weixin_45715405的博客
07-07 759
特征不变性，也就是我们在图像处理中经常提到的特征的尺度不变性，池化操作就是图像的resize，平时一张狗的图像被缩小了一倍我们还能认出这是一张狗的照片，这说明这张图像中仍保留着狗最重要的特征，我们一看就能判断图像中画的是一只狗，图像压缩时去掉的信息只是一些无关紧要的信息，而留下的信息则是具有尺度不变性的特征，是最能表达图像的特征。卷积层的作用是对输入数据进行卷积操作，也可以理解为滤波过程，一个卷积核就是一个窗口滤波器，在网络训练过程中，使用自定义大小的卷积核作为一个滑动窗口对输入数据进行卷积。
mmpretrain
07-28
MMPretrain是一个基于pytorch的开源深度学习预训练工具箱，它是OenMMLab的项目成员之一开发的。它提供了各种强大的预训练主干网络，并支持不同的预训练策略。MMPretrain源自著名的开源项目MMClassification和MMSelfSup，并开发了许多新功能。预训练阶段对于视觉识别非常重要，而MMPretrain通过提供丰富而强大的预训练模型，使我们能够改进各种下游视觉任务。\[1\]\[2\]\[3\] #### 引用[.reference_title] - *1* [计算机视觉 ｜ 深度学习预训练与MMPretrain](https://blog.csdn.net/qq_37902216/article/details/131076259)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* [开源预训练框架 MMPRETRAIN官方文档（概览、环境安装与验证、基础用户指南）](https://blog.csdn.net/qq_41627642/article/details/131561433)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] - *3* [深度学习预训练与MMPreTrain](https://blog.csdn.net/travel_66/article/details/131073132)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值