#今日论文推荐#港中文提出 EdgeViT | 超越MobileViT与MobileNet，实现Transformer在CPU上实时

最新推荐文章于 2024-07-25 19:08:19 发布
最新推荐文章于 2024-07-25 19:08:19 发布
阅读量169 收藏
点赞数
分类专栏： 深度学习 文章标签： transformer 深度学习 计算机视觉
原文链接：https://www.aminer.cn/research_report/627c8eca7cb68b460fb61056?download=false
版权

#今日论文推荐#港中文提出 EdgeViT | 超越MobileViT与MobileNet，实现Transformer在CPU上实时

在计算机视觉领域，基于Self-attention的模型(如(ViTs))已经成为CNN之外的一种极具竞争力的架构。尽管越来越强的变种具有越来越高的识别精度，但由于Self-attention的二次复杂度，现有的ViT在计算和模型大小方面都有较高的要求。
虽然之前的CNN的一些成功的设计选择(例如，卷积和分层结构)已经被引入到最近的ViT中，但它们仍然不足以满足移动设备有限的计算资源需求。这促使人们最近尝试开发基于最先进的MobileNet-v2的轻型MobileViT，但MobileViT与MobileNet-v2仍然存在性能差距。
在这项工作中，作者进一步推进这一研究方向，引入了EdgeViTs，一个新的轻量级ViTs家族，也是首次使基于Self-attention的视觉模型在准确性和设备效率之间的权衡中达到最佳轻量级CNN的性能。
这是通过引入一个基于Self-attention和卷积的最优集成的高成本的local-global-local(LGL)信息交换瓶颈来实现的。对于移动设备专用的评估，不依赖于不准确的proxies，如FLOPs的数量或参数，而是采用了一种直接关注设备延迟和能源效率的实用方法。

论文题目：EdgeViTs: Competing Light-weight CNNs on Mobile Devices with Vision Transformers
详细解读：https://www.aminer.cn/research_report/627c8eca7cb68b460fb61056?download=falseicon-default.png?t=M4ADhttps://www.aminer.cn/research_report/627c8eca7cb68b460fb61056?download=false
AMiner链接：https://www.aminer.cn/?f=cs

​

wwwsxn
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
【第37篇】EdgeViTs： 在移动设备上使用Vision Transformers 的轻量级 CNN
AI浩
05-12 3090
EdgeViTs： 在移动设备上使用Vision Transformers 的轻量级 CNN 摘要 基于自我注意的模型，例如视觉转换器 (ViT)，已成为计算机视觉中卷积神经网络 (CNN) 的一种极具竞争力的架构替代方案。尽管越来越强大的变体具有越来越高的识别精度，但由于自我注意的二次复杂性，现有的 ViT 通常对计算和模型大小有要求。尽管先前 CNN 的几个成功的设计选择（例如，卷积和分层多级结构）已重新引入最近的 ViT，但它们仍然不足以满足移动设备的有限资源需求。这促使最近尝试基于最先进的 Mob
edgeVIT
qq_42075634的博客
07-20 858
edgeVIT
EdgeViT代码复现踩坑记录
weixin_45350036的博客
10-05 629
首先按照要求创建相应环境，配置相关安装包。最后将官方所给的命令行python -m torch.distributed.launch --nproc_per_node=8 --use_env main.py --model edgevit_s --batch-size 256 --data-path /path/to/imagenet --output_dir /path/to/save粘贴进去，运行，报错，提示所用环境中没有该main.py文件。
轻量级网络EdgeViTs论文翻译
panghuzhenbang的博客
05-19 1389
论文地址： https://arxiv.org/abs/2205.03436 EdgeViTs: Competing Light-weight CNNs on Mobile Devices with Vision Transformers EdgeViTs: 轻量级视觉Transformer新工作，可与最好的轻量级CNN在移动设备上竞争！ 摘要： Self-attention based models such as vision transformers (ViTs) have emerged
超越MobileViT！港中文&三星提出EdgeViT：轻量级视觉Transformer新工作，可与最好的轻量级CNN竞争！...
阿木寺的博客
05-15 1890
点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达转载自：集智书童EdgeViTs: Competing Light-weight CNNs on Mobile Devices with Vision Transformers论文：https://arxiv.org/abs/2205.03436在计算机视觉领域，基于Self-attention的模型(如...
Transformer部署-基于TVM在CPU和GPU上部署Transformer算法-附项目源码+参数说明+性能测试-优质项目
06-07
Transformer算法是一种深度学习模型，由Vaswani等人在2017年提出，主要用于自然语言处理任务，如机器翻译、文本生成等。其核心思想是利用自注意力机制（Self-Attention）替代传统序列模型中的循环结构，允许模型并行...
基于Vision Transformer的图像去雾算法研究与实现源码+文档说明（python高分项目）.zip
03-23
基于Vision Transformer的图像去雾算法研究与实现源码+文档说明.zip预处理数据 --- 把训练数据图像切分成大小为256*256的小图 下载数据集存放在： /home/dell/桌面/TPAMI2022/Dehazing/#dataset/NH_haze/ 内含两个...
基于Vision Transformer的图像去雾算法研究与实现python源码+项目介绍使用说明.zip
11-01
基于Vision Transformer的图像去雾算法研究与实现python源码+项目介绍使用说明.zip 如果要继续对模型进行训练：--pretrain_weights 设置预训练权重路径，我的模型预训练权重在My_best_model文件夹下，以数据集划分...
FastFormers：实现Transformers在CPU上223倍的推理加速
11-10
《FastFormers：CPU上Transformer推理加速的探索与实践》 Transformer模型自其诞生以来，以其卓越的性能在自然语言处理（NLP）领域占据了主导地位，广泛应用于问答、情感分析、文本分类和文本生成等任务。然而，...
ICLR 2021上与【自监督学习】 & 【Transformer】相关的论文
10-21
国际表示学习大会（The International Conference on Learning ...为了分析最新研究动向，本文精选了涵盖自监督学习、Transformer、图神经网络、自然语言处理、模型压缩等热点领域，将分多期为大家带来系列论文解读。
Python编程、机器学习与深度学习技术
2301_78164062的博客
07-24 741
Python编程、机器学习与深度学习技术
智能火焰监测系统：基于深度学习的实时火灾预警平台
a871923942的博客
07-24 547
智能火焰监测系统：基于深度学习的实时火灾预警平台
Mindspore框架循环神经网络RNN模型实现情感分类|（五）模型训练
人工智能视觉分析算法学习实践和经验分享。
07-24 188
Mindspore框架循环神经网络RNN模型实现情感分类|（五）模型训练与推理Mindspore框架循环神经网络RNN模型实现情感分类|（六）模型加载和推理（情感分类模型资源下载）
基于深度学习的多智能体系统
weixin_42605076的博客
07-24 950
基于深度学习的多智能体系统（Multi-Agent Systems, MAS）是指通过多个智能体（agents）之间的协作或竞争来完成复杂任务的系统。这些智能体通过深度学习和强化学习技术进行学习和决策，广泛应用于机器人协作、自动驾驶、分布式控制和游戏AI等领域。
卷积神经网络CNN
Life1213的博客
07-24 648
简单来说，就是包含了卷积层的神经网络。
GPU驱动、CUDA 、cuDNN 和CUDA Toolkit之间的关系（深度学习小白必懂）
weixin_44115575的博客
07-23 1114
GPU驱动、CUDA、cuDNN和CUDA Toolkit之间有着紧密的关系，它们共同构成了一个完整的GPU编程和深度学习开发环境。 在最初配置anaconda环境时一直搞不明白它们之间的关系。所以根据自己的理解，通俗详细解释它们各自的角色和相互间的关系，并且列举了一些在anaconda虚拟环境中的例子。 不对的地方希望大家指正。
深度学习loss
最新发布
weixin_45706801的博客
07-25 806
是 PyTorch 中的一个类，它实现了将 Sigmoid 激活函数和二元交叉熵损失函数合并的功能。这个损失函数接受两个输入：模型的原始输出（未经 Sigmoid 激活）和目标（真实）标签，然后自动计算损失值。由于它在内部集成了 Sigmoid 激活函数，因此可以避免在正向和反向传播过程中可能出现的梯度爆炸或梯度消失问题。是 PyTorch 中一个用于二元分类问题的强大损失函数，它通过结合 Sigmoid 激活函数和二元交叉熵损失函数，提高了训练的效率和数值稳定性。
2.6.AlexNet
shiki217_的博客
07-24 221
​ 本质上是更深更大的LeNet​ 主要改进：丢弃法、Relu、MaxPooling。
深度学习：目标检测的革命者
2401_85761003的博客
07-23 894
深度学习已经成为目标检测领域的重要驱动力，它通过强大的特征提取能力和端到端的学习方式，极大地提高了检测的准确性和效率。随着技术的不断进步，我们有理由相信深度学习将在目标检测中发挥更大的作用，推动相关行业的快速发展。注意：本文中的代码示例仅供参考，实际使用时请根据你的项目情况进行调整。如果你有任何问题或需要进一步的帮助，请随时联系我们。
mobileViT和mobileNet参数量和模型大小比较
05-24
MobileNet 是一种轻量级的卷积神经网络，它可以在移动设备等资源受限的环境中高效地运行。它的参数量和模型大小相对较小，适合于在硬件资源受限的设备上进行实时图像分类。 MobileViT 是一个基于 Vision Transformer（ViT）的轻量级图像分类模型，旨在在移动设备上实现高效的计算。MobileViT 通过使用深度可分离卷积来减少参数数量和模型大小，并使用可分离均值池化来减少计算量。MobileViT 的参数量和模型大小相对于 ViT 来说要小很多。 具体而言，在 ImageNet 数据集上，MobileNet V3 的模型大小约为 5MB，参数数量约为 5.4M；而 MobileViT 的模型大小约为 1.5MB，参数数量约为 2.6M。MobileViT 在相同的精度下，比 MobileNet 更小更轻量级，适合在移动设备等资源受限的环境中应用。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值