【轻量化结构】一文带你看遍轻量化网络结构模型

已于 2024-03-21 23:52:27 修改
阅读量2.2k 收藏 39
点赞数 20
分类专栏： 剪枝 蒸馏 量化 板端部署 文章标签： 深度学习 人工智能
于 2024-03-06 16:01:32 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_51579041/article/details/136507715
版权

文章目录

前言

本篇博客将记录常见的17种轻量化模型结构，分析其轻量化技巧。
后续将持续发布模型压缩方面的博文，有需要的读者记得点下关注。

一、首页

在这里插入图片描述

二、轻量化网络：移动端，终端边缘计算

在这里插入图片描述

三、轻量化网络模型

在这里插入图片描述

四、VGG：传统3x3卷积搭建网络的极限

在这里插入图片描述

五、RepVGG：结构重参数化

在这里插入图片描述

六、ResNet：残差网络，解决退化问题

在这里插入图片描述
在这里插入图片描述

七、DenseNet：比ResNet更优的CNN模型

在这里插入图片描述

八、InceptionV1：GoogLeNet，谷歌出品

在这里插入图片描述
在这里插入图片描述

九、InceptionV2 && V3

在这里插入图片描述

十、InceptionV4

在这里插入图片描述

十一、深度可分离卷积

在这里插入图片描述

十二、Xception

在这里插入图片描述

十三、MobileNetV1

在这里插入图片描述

十四、MobileNetV2

在这里插入图片描述

十五、通道注意力机制

在这里插入图片描述

十六、MobileNetV3

在这里插入图片描述

十七、GhostNet：幻象网络，华为出品

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

十八、EfficientNet：NAS搜索出来的网络

在这里插入图片描述

十九、ShuffleNetV1：旷视科技

在这里插入图片描述
在这里插入图片描述

二十、ShuffleNetV2

在这里插入图片描述
在这里插入图片描述

二十一、谁才是轻量级CNN的王者？MobileNet/ShuffleNet/GhostNet评测

在这里插入图片描述

二十二、FastestDet：ShuffleNetv2的应用，比yolo-fastest更快

在这里插入图片描述
在这里插入图片描述

总结

本篇博客将记录常见的17种轻量化模型结构，分析其轻量化技巧。
值得一提的是从结构角度进行轻量化设计，往往比其他模型压缩技巧，如剪枝，蒸馏，更有实际意义。优先考虑结构的轻量化设计，然后才是剪枝，蒸馏等模型压缩方法。

BILLY BILLY
关注
  • 20
    点赞
  • 踩
  • 39
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论
专栏目录
轻量化网络综述
05-22
包含自己做的一个presentation，和相关的参考文献，shuffleNet，MobileNet v1 Mobilev2,等
轻量级RFID双向认证协议设计与分析
10-09
《轻量级RFID双向认证协议设计与分析》一文提出的基于哈希函数的RFID双向认证协议，通过理论分析和实证研究，证实了其在保障RFID系统隐私安全和提升性能方面的显著效果。这一创新性的解决方案，不仅解决了RFID技术在...
模型加速之轻量化网络
言午日月
02-08 2061
模型加速之轻量化网络 当前物体检测结构大都依赖使用卷积网络进行特征提取，即 Backbone，通常使用 VGGNet、ResNet 等优秀的基础网络，但是这些网络往往计算量巨大，依赖这些基础网络的检测算法很难达到实时运行的要求，尤其是在 ARM、FPGA以及 ASIC 等计算力有限的移动端硬件平台。因此如何将物体检测算法加速到满足工业应用要求，一直是关键性问题。 轻量化设计: 从模型设计...
目标检测模型轻量化谁才是最佳的骨干网络，以MnasNet、MobileNet、GhostNet和ShuffleNet为基准，试验对比分析挖掘最优方案
最新发布
Together_CZ的博客
06-24 1016
目标检测模型轻量化谁才是最佳的骨干网络，以MnasNet、MobileNet、GhostNet和ShuffleNet为基准，试验对比分析挖掘最优方案
[ 轻量级网络 ] 经典网络模型2——MobileNet 详解与复现
A_John 的博客
05-05 2444
[ 轻量级网络 ] 经典网络模型2——MobileNet 详解与复现 1、MobileNet； 2、MobileNet 详解； 3、MobileNet 复现； MobileNet 使用 深度可分离卷积 来构建轻量级的深度神经网络，是一种用于 移动和嵌入式视觉 应用的高效模型 ； 通过引入的两个简单 全局超参数，有效地在 延迟和准确性 之间进行权衡 ； 🔗 论文地址：...
轻量级网络总结
专注人工智能，主攻CV
10-28 6459
总结轻量级网络设计思想
模型轻量化攻略：简化不简单，效果更卓越
Mapmost的博客
03-22 801
随着数字化、信息化和智能化的不断推进，三维模型在各个领域的应用越来越广泛，数据更新频率也不断加快，海量而庞大的三维数据对模型存储、屏端展示和管理应用都带来了极大挑战。于是，模型轻量化技术开始在行业间被广泛提及，对模型数据进行“瘦身”的呼声与需求愈发强烈。本文将介绍三维模型轻量化的几个方面。
经典网络结构 (八)：轻量化网络 (SqueezeNet, MobileNet, ShuffleNet)
连理o的博客
03-13 1万+
目录SqueezeNet: Squeeze and ExpandFire ModuleSqueezeNetSqueezeNet 总结MobileNet: Depthwise Separable ConvolutionShuffleNet: 通道混洗参考文献 SqueezeNet: Squeeze and Expand Fire Module SqueezeNet 的主要模块为 Fire Module，它主要从网络结构优化的角度出发，使用了如下 3 点策略来减少网络参数，提升网络性能： (1) 使用 1×
轻量化网络总结[2]--ShuffleNetv1/v2，OSNet，GhostNet
Gthan
06-15 5637
轻量化网络模型的核心是在保持精度的前提下，从模型大小和推理速度两方面综合对网络进行轻量化改造，使深度学习网络模型更容易部署在移动端或嵌入式设备。详细介绍轻量化网络模型ShuffleNetv1/v2，OSNet，GhostNet...............
14种轻量级网络综述 — 主干网络篇
热门推荐
3D视觉工坊
07-29 1万+
点击上方“3D视觉工坊”，选择“星标”干货第一时间送达作者丨VincentLee来源丨晓飞的算法工程笔记编辑丨极市平台导读早期的卷积神经很少考虑参数量和计算量的问题，由此轻量级网络诞生，...
轻量化网络模型调研报告
RuanJianNB的博客
07-04 1669
从轻量化网络结构定义来看，我们可以将轻量化网络分为轻量化网络结构设计和模型压缩两大类，其中模型压缩又可细分为知识蒸馏、剪枝、量化、低秩分解四个小类别。
轻量化网络ShuffleNet：适用于移动设备的极其高效的卷积神经网络
shengweiit的博客
05-29 596
针对计算能力非常有限的移动设备，构建了一种计算效率极高的CNN架构-ShuffleNet新架构引入了分组点卷积和通道重排两个新操作，在保持精度的情况下， 极大减少算力消耗在ImageNet，COCO等数据集上实验验证了ShuffleNet的高效性。
2021CVPR-神经网络结构设计.zip
07-11
一、轻量化网络结构 随着移动设备和物联网的普及，对低功耗、高性能计算的需求日益增长。2021CVPR上的多篇论文提出了轻量化神经网络架构，以提高运算效率。例如，"EfficientNet-Lite：面向移动设备的优化模型"探讨...
GIS+Web服务结构与实现
03-28
综上所述，《GIS+Web服务结构与实现》一文全面而深入地分析了GIS与Web服务结合的理论基础、结构模型和实现技术，对于推动GIS在网络环境下的广泛应用具有重要的指导意义。随着技术的不断发展，GIS Web服务有望在更多...
一文总结数据科学家常用的Python库（上）
01-27
1. **Flask**：Flask是一个轻量级的Web服务器和框架，用于构建API和服务，便于模型部署。 了解并掌握这些库，将极大地提升数据科学家的工作效率，覆盖数据科学项目的各个阶段。无论是数据获取、数据处理，还是模型...
一文快速入门Kotlin协程开发
09-18
Kotlin协程是Kotlin语言中的一种异步编程模型，提供了轻量级、灵活的方式来处理并发编程。 Kotlin协程从Kotlin 1.3版本开始引入，基于来自其他语言的既定概念，Google官方推荐将Kotlin协程作为在Android上进行异步...
[ 轻量级网络 ] 经典网络模型1——SqueezeNet 详解与复现
A_John 的博客
05-03 6112
[ 轻量级网络 ] 经典网络模型1——SqueezeNet 详解与复现； 1、SqueezeNet； 2、SqueezeNet详解； 3、SqueezeNet复现； SqueezeNet 在 ImageNet 上实现与 AlexNet 同等级别的精度，但 参数少了50倍 ； 通过模型压缩技术，实现了 SqueezeNet 模型压缩到小于0.5MB，相比 AlexNet 模型小了510倍 ； 🔗 论文地址：SqueezeNet: AlexNet-level accuracy with 50x fewer...
图像识别经典轻量级网络模型总结梳理、原理解析与优劣对比分析
Together_CZ的博客
12-06 2476
图像识别经典轻量级网络模型总结梳理、原理解析与优劣对比分析
微调预训练的VGG16网络
EightPIG的博客
10-14 713
下面展示一些 内联代码片。 微调预训练的VGG16网络 // A code block var foo = 'bar'; // An highlighted block import numpy as np import hiddenlayer as hl import torch import torch.nn as nn import torch.utils.data as Data from torchvision import models from torchvision import tran
神经网络二分类模型结构图
09-01
神经网络二分类模型的结构图可以根据不同的模型而有所不同。人工神经网络模型主要考虑网络连接的拓扑结构、神经元的特征、学习规则等。已有近40种神经网络模型，其中包括反传网络、感知器、自组织映射、Hopfield网络、波耳兹曼机、适应谐振理论等。 以感知器为例，它是一种最简单形式的前馈式人工神经网络，是一种二元线性分类器。感知器的结构图通常由输入层、输出层和一个或多个隐藏层组成。输入层接受外部输入，输出层生成分类结果。而隐藏层则负责对输入数据进行处理和转换，以提取出数据的特征。每个神经元之间通过连接权重进行信息传递，并在每个神经元中进行激活函数的计算。通过不断调整权重和阈值，感知器模型可以学习并进行二元分类任务。 需要注意的是，不同的神经网络模型可能具有不同的拓扑结构。层次型模型和互连型模型是常见的分类。层次型模型包括输入层、隐藏层和输出层，信息从输入层逐层传递到输出层。而互连型模型的神经元之间可以存在跨层连接，形成更为复杂的网络结构。 因此，神经网络二分类模型的结构图可以根据具体的模型选择和设计而有所不同，包括输入层、隐藏层、输出层以及神经元之间的连接方式。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* *3* [一文看懂25个神经网络模型,神经网络模型结构图](https://blog.csdn.net/aifamao3/article/details/126601215)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 100%"] [ .reference_list ]
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

BILLY BILLY

你的奖励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值