一次卷积的计算量到底有多少 ?

最新推荐文章于 2024-06-21 20:58:26 发布

mtj66

最新推荐文章于 2024-06-21 20:58:26 发布

阅读量1.6w

点赞数 4

分类专栏： DL

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/mtj66/article/details/80509713

版权

DL 专栏收录该内容

9 篇文章 0 订阅

订阅专栏

动态卷积过程

一次卷积的计算量,如何计算呢 ,参考上图,只是其中一个channel,

((*+1)* $C_{in}$ + ( $C_{in}$ -1))*** $C_{out}$

其中(这需要对卷积过程有较深的理解)

(*+1)表示在一个卷积核计算时在叠加bias,

乘以 $C_{in}$ 表示在输入的channel方向进行乘积

$C_{in}$ -1 表示一次卷积之后进行 $C_{in}$ 方向的叠加

((*+1)* $C_{in}$ + ( $C_{in}$ -1)) 表示最终汇聚成特征图上的一个点

乘以** $C_{out}$ 表示在最终的输出特征图,所有点的的个数

当然简化之后一次卷积的时间按复杂度: O(** $C_{in}$ *** $C_{out}$ )

忽略bias参数,简化之后参数: ** $C_{in}$ * $C_{out}$

每个卷积核输出特征图 $(Feature~\color{red}{M}ap)$ 的边长
每个卷积核 $(\color{red}{K}ernel)$ 的边长
$C_{in}$ 每个卷积核的通道数，也即输入通道数，也即上一层的输出通道数。
$C_{out}$ 本卷积层具有的卷积核个数，也即输出通道数。
可见，每个卷积层的时间复杂度由输出特征图面积、卷积核面积、输入 $C_{in}$ 和输出通道数 $C_{out}$ 完全决定。
其中，输出特征图尺寸本身又由输入矩阵尺寸、卷积核尺寸、、这四个参数所决定，表示如下：

$\quad\quad\quad\quad\quad\quad\quad\quad M = (X - K + 2 * Padding) / Stride + 1 \quad\quad\quad\quad\quad\quad\quad\quad$

注1：为了简化表达式中的变量个数，这里统一假设输入和卷积核的形状都是正方形。
注2：严格来讲每层应该还包含 1 个参数，这里为了简洁就省略了。

ref https://zhuanlan.zhihu.com/p/31575074

https://zhuanlan.zhihu.com/p/24837264

关注

4
点赞
踩
15

收藏

觉得还不错? 一键收藏
打赏
3
评论
一次卷积的计算量到底有多少 ?

动态卷积过程一次卷积的计算量,如何计算呢 ,参考上图,只是其中一个channel,((*+1)*+ (-1))***其中(这需要对卷积过程有较深的理解)(*+1)表示在一个卷积核计算时在叠加bias,乘以表示在输入的channel方向进行乘积-1 表示一次卷积之后进行方向的叠加((*+1)*+ (-1)) 表示最终汇聚成特征图上的一个点乘以**表示在最终的输出特征图,所有点的的个数当然简化之后一次...
复制链接

扫一扫

专栏目录

评论 3

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

打赏作者

mtj66 看心情

¥1 ¥2 ¥4 ¥6 ¥10 ¥20

扫码支付：¥1

获取中

扫码支付

您的余额不足，请更换扫码支付或充值

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。