![](https://img-blog.csdnimg.cn/20201014180756923.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
模型压缩/加速
文章平均质量分 64
orangezs
这个作者很懒,什么都没留下…
展开
-
[计算机视觉]-从ShuffleNet V2来看,为什么有些FLOPs小的模型在实际推理过程中所花费的时间更长/速度更慢?
惯例资源论文地址1.简介相对于传统卷积方式,目前如分组卷积,空洞卷积,深度可分离卷积等,这些新型的卷积方式可以有效的降低模型的FLOPs,然而在实际设备上,由于各种各样的优化计算操作,导致计算量并不能准确地衡量模型的速度,换言之,相同的FLOPs会有不同的推理速度。具体来说,如在GPU运算的一些操作,底层都是调用cuda算子,而这些算子的操作方式,都是由开发人员优化后的,可能并没有针对具体的如深度可分离卷积进行优化;或在arm架构的cpu上,本质也是调用cpu的算子,可能并无相关优化。2. 四原创 2021-05-24 15:22:46 · 3717 阅读 · 0 评论 -
[笔记]--tensorrt及神经网络常用的.wts权重格式解析
介绍.wts是一种可解释性文本对于一个例子 lenet5.wts 来说,这里我们展示他的一部分。10conv1.weight 150 be40ee1b bd20bab8 bdc4bc53 .......conv1.bias 6 bd327058 .......conv2.weight 2400 3c6f2220 3c693090 ......conv2.bias 16 bd183967 bcb1ac8a .......fc1.weight 48000 3c162c20 bd25196a ..原创 2021-05-11 19:15:30 · 1853 阅读 · 0 评论 -
[模型加速]-从一个简单的例子letnet demo来看我们如何使用tensorRT来实现DL网络加速(附demo代码)
参考大神github地址本项目演示demo地址letnet_trt1.在pytorch中运行letnet5开始之前请确保正确的安装了pytorch依赖1.1 克隆本博客演示代码,并进入letnetPy文件git clone https://github.com/python-faker/csdn_examplecd csdn_example/tensorrtExample/lenetPy1.2 运行lenet5.py文件通过pytorch生成lenet5.pth权重文件,具体的lene原创 2021-05-11 16:01:46 · 589 阅读 · 2 评论 -
[模型压缩/加速]-加速卷积计算的三种方法-Depth-wise Conv、Group Conv、Channel-wise Conv
1.概念简介假设输入尺寸大小为aa、通道 为n,输出通道数为m,卷积核大小为bb,步长为1.那么计算量为 FLOPs = a * a * n * m * b * b参数量为 b * b * n * m这就是传统卷积的计算方式,可以看到,当a、b、n、m相对较大的时候,造成的计算量是非常大的,所以就有降低模型大小与计算量的需要。2.Depth-wise Conv出自论文《MobileNets: Efficient Convolutional Neural Networks for Mobile V原创 2020-11-03 15:49:20 · 5623 阅读 · 0 评论