轻量级神经网络算法
文章平均质量分 95
总结并对比轻量级神经网络算法,包括SqueezeNet、MobileNet系列、NASNet、CondenseNet、PNASNet、SENet、ShuffleNet系列、IGCV系列等等,持续更新。
Mr.小梅
这个作者很懒,什么都没留下…
展开
-
轻量级神经网络算法系列文章-MobileNet v3
本文介绍轻量级MobileNetv3,通过修改NAS和NetAdapt进行网络搜索得到初始模型结构。后修改对模型进行4处改进(尾部层修改、初始层通道数修改、新的激活函数和加入SE模块),等等。原创 2022-08-31 17:01:29 · 2729 阅读 · 0 评论 -
轻量级神经网络算法系列文章-ShuffleNet v2
ShuffleNet v2发现只使用FLOPs不能直接决定网络的速度,而影响速度的还有(MAC)和并行度(degree of parallelism)两个因素,通过对这两个影响因素分析,提供了4个实用指南G1/G2/G3/G4,以ShuffleNet v1为基准,根据4个指南对其修改,得到高效率的ShuffleNet v2....原创 2022-08-30 09:20:27 · 1086 阅读 · 1 评论 -
轻量级神经网络算法系列文章-ShuffleNet v1
本文介绍ShuffleNet v1,关键点:1、大量的1×1卷积也是很消耗资源的,所以修改1×1卷积为1×1 group卷积(即**pointwise group convolution**)2、1×1 gruop卷积有会导致一些缺点,每个group卷积之内只关注本组信息,为弥补这些缺点,提出**channel shuffle**,使各个group之间信息可以交互...............原创 2022-08-26 17:17:38 · 980 阅读 · 3 评论 -
轻量级神经网络算法系列文章-MobileNet v2
本文提出一个新的结构MobileNet v2,它专门为移动和资源受限的环境量身定制,在各项任务中都取得最佳表现。MobileNet v2基于反向残余结构(inverted residual structure),其中快捷连接在薄瓶颈层之间。中间层expansion layer使用轻型深度卷积(depthwise conv)来过滤非线性源的特征。并且研究发现,为了不丢失重要特征,去除窄层中的非线性层。原创 2022-08-25 13:54:54 · 1022 阅读 · 0 评论 -
轻量级神经网络算法-MobileNet v1
本文介绍MobileNet v1。该算法使用深度可分离卷积代替常规卷积,大幅降低参数量和计算量;设置超参数α(宽度系数),用于调节每层特征图的输入输出通道数,来降低模型参数量和计算量;设置超参数ρ(分辨率系数),用于调节输入到网络的图片分辨率,量降低模型计算量。原创 2022-08-24 16:41:19 · 534 阅读 · 0 评论 -
轻量级神经网络算法-SqueezeNet
本文介绍SqueezeNet,文中提出三种策略来降低模型参数量、提升准确率。原创 2022-08-24 13:46:15 · 1436 阅读 · 6 评论 -
轻量级神经网络算法-总结对比
近20个轻量级神经网络算法的对比。原创 2022-08-24 09:25:06 · 1065 阅读 · 1 评论