MobileViT 网络测试

已于 2022-04-11 18:51:25 修改
阅读量2.1k 收藏 1
点赞数 1
分类专栏： 深度学习宝典 文章标签： pytorch 深度学习
于 2021-10-09 17:28:20 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/jacke121/article/details/120675460
版权

mobilevit-pytorch/mobilevit.py at master · chinhsuanwu/mobilevit-pytorch · GitHub

MobileFormer 与上面的不太一样：

https://github.com/slwang9353/MobileFormer

实时Transformer类轻量型MobileViT

本文应该是首次将CNN+Transformer的组合做到了端侧实时，而且不局限于分类任务，同时还将检测与分割等纳入考虑范畴，实乃近期为数不多的好文之一。当然，速度比起来CNN来肯定还是要慢一些的。比如：3.5M参数量的MobileNetV2推理速度仅需0.92ms，精度为73.3；而MobileViT的参数量为2.3M，推理速度为7.28ms，精度为74.8。比较遗憾的是，MobileViT尚未开源，无法亲自体验其高性能、高推理速度。

实验结果表明，在不同的任务和数据集上，MobileViT显著优于基于CNN和ViT的网络。

在ImageNet-1k数据集上，MobileViT在大约600万个参数的情况下达到了78.4%的Top-1准确率，对于相同数量的参数&#x

了解本专栏 订阅专栏 解锁全文 超级会员免费看
AI算法加油站
关注
  • 1
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 3
    评论
专栏目录
订阅专栏
MobileViT代码
08-20
MobileViT网络，将 CNN 和 ViT 的优势结合起来。在轻量的基础上具有可以处理全局信息的能力。 实验结果表明：在不同的任务和数据集上，MobileViT明显优于基于cnn和viti的网络。在ImageNet-1k数据集上，MobileViT在约600万个参数下达到了78.4%的前1准确率，在相同数量的参数下，比MobileNetv3(基于CNN)和 DeIT (基于ViT)的准确率分别提高了3.2%和6.2%。在MS-COCO目标检测任务上，对于相似数量的参数，MobileViT比MobileNetv3的准确率高5.7%。
基于FPGA的MobileNet V2卷积神经网络加速器
qq_40268672的博客
09-08 9648
MobileNet V2介绍 MobileNetV2是在V1基础之上的改进。V1主要思想就是深度可分离卷积。而V2则在V1的基础上，引入了Linear Bottleneck 和 Inverted Residuals。下图是MobileNet V2中的一个基本模块 可以看到，该模块由三个卷积组成，第一第三个卷积是标准的1x1卷积，起到升维和降维的作用，而中间的是一个depthwise卷积，每一个卷积层之后，都紧接着一个BN层，以加速网络的收敛。 同时，我们观察到，该模块的输入和输出有一个残差连接，即输入和最
MobileVIT原理详解篇
最新发布
秃头小苏的博客
03-28 907
Hello，大家好，我是小苏🧒🏽🧒🏽🧒🏽​  在之前，我已经为大家介绍过各种基础的深度神经网络，像AlexNet、VGG、ResNet等等，也为大家介绍过一些轻量级的网络，如ShuffleNet系列、MobileNet系列等等，当然也做过一系列Transformer的教学，感兴趣的可以去我主页搜搜看喔。🍵🍵🍵​  今天将为大家介绍一种新的网络结构——MobileVIT。CV攻城狮入门VIT(vision transformer)——近年超火的Transformer你再不了解就晚了！🍁🍁🍁。
Mobile-ViT (MobileViT)网络讲解
chase
10-18 9068
Mobile-ViT (MobileViT)网络讲解
图像分类实战：mobilenetv2从训练到TensorRT部署（pytorch）
AI浩
02-18 4760
摘要 本例提取了植物幼苗数据集中的部分数据做数据集，数据集共有12种类别，演示如何使用pytorch版本的mobilenetv2图像分类模型实现分类任务。将训练的模型转为onnx，实现onnx的推理，然后再将onnx转为TensorRT，并实现推理。 通过本文你和学到： ​ 1、如何从torchvision.models调用mobilenetv2模型？ ​ 2、如何自定义数据集加载方式？ ​ 3、如何使用Cutout数据增强？ ​ 4、如何使用Mixup数据增强。 ​ 5、如何实现训练和验证。 ​ 6、如何
【MobileViT】
szhizhi的博客
07-11 3542
MobileViT系列文章研读
Pytorch之MobileViT图像分类
风间琉璃的博客
10-13 1859
MobileViT是一种基于架构的轻量级视觉模型，旨在适用于移动设备和嵌入式系统。ViT是一种非常成功的深度学习模型，用于图像分类和其他计算机视觉任务，但通常需要大量的计算资源和参数。MobileViT的目标是在保持高性能的同时，减少模型的大小和计算需求，以便在移动设备上运行，据作者介绍，这是第一次基于轻量级CNN网络性能的轻量级ViT工作，性能SOTA。性能优于MobileNetV3、CrossviT等网络。
MobileViT、MobileViTv2、MobileViTv3学习笔记（自用）
热门推荐
互相学习的小博客
10-25 1万+
MobileViT、MobileViTv2、MobileViTv3学习笔记（自用）
MobileVIT实战：使用MobileVIT实现图像分类
04-27
目前，Transformer已经霸榜计算机视觉各种任务，但是缺点也很明显就是参数量太大无法用在移动设备，为了解决这个问题，Apple的科学家们将CNN和VIT的优势结合起来，提出了一个轻量级的视觉网络模型mobileViT。...
MobileViT v3 pytorch代码
12-31
MobileViT v3 pytorch代码，几乎都不能加载官方的预训练模型，本人经过调整修改， 可以加载官方预训练模型，原创不易，希望多多支持
算法部署-使用TensorRT部署MobileViT算法-优质算法部署项目实战.zip
03-05
算法部署_使用TensorRT部署MobileViT算法_优质算法部署项目实战
FasterNet实战：使用FasterNet实现图像分类任务
03-24
FasterNet全新的神经网络家族，在多个处理平台上运行速度更快，精度更高，优于MobileVit等网络，基于新提出新的Partial卷积(PConv)，大型网络FasterNet-L达到了83.5%的top-1精度，与Swin-B相当，同时在GPU上具有更高...
MobileViT神经网络模型
qq_59572329的博客
05-04 2128
MobileViT论文中绘制的Standard visual Transformer。首先将输入的图片划分成一个个Patch，然后通过线性变化将每个Patch映射到一个一维向量中（视为一个个Token），接着加上位置偏置信息（可学习参数），再通过一系列Transformer Block，最后通过一个全连接层得到最终预测输出。
MobileViT网络详解（结合代码）
Orange_sparkle的博客
09-22 4820
自从2020年Vision Transformer的出现，计算机视觉领域就掀起了一股Transform热潮，但是随着越来越多的人了解并且应用它，就能发现ViT虽然强大，但是想要训练好ViT也是非常困难的。当前纯Transformer架构存在的一些问题：1）Transformer参数多，算力要求高2）Transformer缺少空间归纳偏置3）Transformer迁移到其他任务比较繁琐4）Transformer模型训练困难所以整篇文章的核心就是探讨这个问题。
第十八章 MobileViT网络详解
ADICDFHL的博客
06-29 612
第一章 AlexNet网络详解第二章 VGG网络详解第三章 GoogLeNet网络详解 第四章 ResNet网络详解 第五章 ResNeXt网络详解 第六章 MobileNetv1网络详解 第七章 MobileNetv2网络详解 第八章 MobileNetv3网络详解 第九章 ShuffleNetv1网络详解 第十章 ShuffleNetv2网络详解 第十一章 EfficientNetv1网络详解 第十二章 EfficientNetv2网络详解 第十三章 Transformer注意力机制第十四章 Visio
MOBILEVITV3: MOBILE-FRIENDLY VISION TRANS- FORMER WITH SIMPLE AND EFFECTIVE FUSION OF LOCAL, GLOBAL
qq_52302919的博客
02-01 1322
虽然mobilevit-v1有助于实现最先进的竞争结果，但mobilevit-v1块内部的融合块创建了扩展挑战，并具有复杂的学习任务。本文对融合块进行简单有效的更改，以创建mobilevit-v3块，这解决了扩展问题并简化了学习任务。提出的用于创建MobileViTv3-XXS、XS和S模型的MobileViTv1在ImageNet-1k、ADE20K、COCO和PascalVOC2012数据集上的性能优于MobileViT-v1。最近发布的MobileViT-v2架构去掉了融合块，并使用线性复杂的tran
MobileViT v3论文超详细解读（翻译＋精读）
路人贾的博客
09-08 3424
MobileViT v3论文《MOBILEVITV3: MOBILE-FRIENDLY VISION TRANS- FORMER WITH SIMPLE AND EFFECTIVE FUSION OF LOCAL, GLOBAL AND INPUT FEATURES》翻译＋超详细精读
论文阅读：MobileViT: LIGHT-WEIGHT, GENERAL-PURPOSE,AND MOBILE-FRIENDLY VISION TRANSFORMER
a486259的博客
06-30 996
发表时间：2022.03.04论文地址：https://arxiv.org/abs/2110.02178项目地址：https://github.com/apple/ml-cvnets轻量级卷积神经网络（CNNs）实际上是移动视觉任务的首选。他们的空间归纳偏差允许他们在不同的视觉任务中以更少的参数学习表征。然而，这些网络在空间上是局部的。为了学习全局表示，我们采用了基于self-attention的视觉Transformer（ViTs）。与cnn不同，vit是参数量级的。
MobileVIT：更轻量级，更通用的对移动端更友好的VIT
weixin_43921949的博客
10-03 1795
将VIT轻量化
yolov8更改骨干网络mobilevit
12-30
将YOLOv8中的骨干网络更改为MobileViT的主要目的是为了减少计算和内存资源的消耗，使得YOLOv8的目标检测模型更加适合在资源受限的设备上运行。 MobileViT是基于ViT（Vision Transformer）的改进版本，它使用...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

AI算法加油站

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值