Im2col+GEMM快速卷积

最新推荐文章于 2024-07-28 10:39:24 发布
最新推荐文章于 2024-07-28 10:39:24 发布
阅读量678 收藏
点赞数
分类专栏： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/vectorindex/article/details/115390571
版权
本文介绍了将卷积操作转化为矩阵乘法的Im2col和GEMM方法，通过将数据窗口展平为向量，再进行矩阵乘法实现快速计算，从而加速卷积过程。
摘要由CSDN通过智能技术生成

核心思想：将卷积操作（一个个数据窗口相乘求和）变为矩阵乘法，进行快速计算

如何将普通卷积的操作变成有意义的矩阵相乘？？？

关键点：普通卷积操作：\sum x(ij)w(ij) 即①对应位置相乘，之后累加。但如果把w矩阵以及x被w圈起来的部分②拉直（展平），就变成了两个向量。

③然后向量对应位置相乘之后累加，此形式就变成了两个向量点乘，如果把x被圈的部分全部拉直变成向量，④向量组合乘矩阵

最低0.47元/天 解锁文章
vectorindex
关注
专栏目录
im2col的卷积操作
free1993的博客
06-16 426
对于一个卷积操作来说，输入有两个： 四维tensor的输入[N,C,H,W],首先需要将四维向量变成一个二维的向量 四维tensor的权重[OC,C,KH,KW],首先需要将四维向量变成一个二维的向量. 输出是一个四维的向量[N, OC, OH, OW] 变输入 首先为了矩阵乘法，我们要把输入[N,C,H,W]的输入变成 [NxOHxOW, CxKHxKW]的二维向量，此时的存储空间变为原来的OHxOW倍。 这个变输入实际上是每次将卷积运算需要的数据展成行向量。 def im2col(input_dat
卷积实现—im2col+gemm
two_apples的博客
06-25 1558
看卷积的实现，先看其普通的计算方式：滑窗计算和其计算shape大小的公式，以及各个卷积特性对其计算的影响，比如：stride，group，dilation，pad等。Hout​Hin​−kh​pt​pb​strideh​1Wout​Win​−kw​pl​pr​stridew​1上面公式以2D卷积为例，输出特征图的形状计算公式。
Geem算子
最新发布
生活需要深度
07-28 407
GEEM（General Matrix Multiply）卷积计算是一种常用的卷积神经网络（CNN）中的计算方法。在卷积神经网络中，卷积操作是一种重要的特征提取方法，而GEMM卷积算法则是用于加速卷积计算的一种优化方法。具体来说，GEMM卷积算法将卷积操作中的卷积核展开为一个举证，将输入特征图展开为一个举证，然后利用举证乘法的性质来进行计算，最后将计算结果从新组合成输出特征图。这种方法能够充分利用矩阵乘法的并行性，从而加速卷积计算过程。在计算机科学领域，矩阵乘法是一项重要的运算。
【学习体会】结合SIMD和GEMM的快速卷积及其在高斯模糊中的应用
LeonJin的博客
12-28 721
​​​​​​​ 项目源码： https://github.com/LeonJinC/Fast-Convolution-with-SIMD-and-GEMM
卷积操作中的矩阵乘法gemm im2col
qq_35608277的博客
04-09 283
ref https://blog.csdn.net/just_sort/article/details/104198332?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522161797754516780274134998%2522%252C%2522scm%2522%253A%252220140713.130102334.pc%255Fblog.%2522%257D&request_id=161797754516780274134...
Im2Col+GEMM的改进方法MEC，一种更加高效的卷积计算策略
I good vegetable a!
10-10 1371
1. 前言 前面介绍了Im2Col+GEMM来实现卷积以在某些条件下获得更好的访存和计算效率，详见：详解Im2Col+Pack+Sgemm策略更好的优化卷积运算 。然后，最近偶然发现了Im2Col+GEMM的一个改进版本即MEC: Memory-efficient Convolution for Deep Neural Network ,这是发表在ICML 2017年的文章，它主要优化了Im2Col+GEMM计算策略中的内存消耗，并且也能提升一点速度，是一个不错的卷积加速算法。所以我在这里结合论文以及代码实
Low-memory GEMM-based convolution algorithms for deep neural networks 深度神经网络中基于GEMM的低内存卷积算法
知行合一，止于至善
10-20 1208
文章目录1 相关介绍DNN卷积的实现方法contributions2 DNN 卷积3 使用O(K2CHW)O(K^2CHW)O(K2CHW) 空间的patch matrix的卷积3.1 Matrix layouts3.2 Patch-minor layouts3.3 Patch-building Algoritmsim2col−scanim2col−copy−selfim2col−copy−lon...
IM2COL+GEMM
10-18
IM2COL+GEMM是一种常用的卷积神经网络计算方法，其中IM2COL将输入数据转换为矩阵，GEMM则使用矩阵乘法计算卷积。这种方法可以利用矩阵乘法的高效性，加速卷积计算。 相关问题: 1. IM2COL+GEMM相比于传统的卷积计算...
【darknet源码解析-05】im2col.h 和 im2col.c 解析
CVer
09-03 1827
本系列为darknet源码解析，本次解析src/im2col.h 与 src/im2col.c 两个。这块其实是卷积操作的底层实现。im2col主要是完成矩阵的向量转换，为了之后的gemm.c做矩阵乘法做准备，而im2col和gemm就是darknet卷积底层实现的核心。其实也是caffe卷积实现的核心。 img2col.h 中的包含的代码如下：主要就是一个函数im2col_cpu定义，在这里我...
im2col函数1
08-04
【im2col函数1】是深度学习框架Caffe中用于卷积运算的关键函数，它的主要作用是将输入图像（image）的数据结构转换成适合矩阵乘法的形式，以便于执行快速的卷积运算。这一转换过程使得原本复杂的卷积操作可以通过...
GEMM算法优化库
11-11
GEMM算法优化库，支持自调优，能够运行在Linux和Windows平台，可以获得很高的矩阵乘加速性能。
深度学习之卷积操作中的im2col-理论篇
大腿壮的博客
04-25 1578
img2col
Winograd，GEMM算法综述（CNN中高效卷积实现）（上）
热门推荐
是否龍磊磊真的一无所有的博客
01-09 1万+
                       高效卷积实现算法和应用综述（上） 在下一篇文章会介绍Winograd算法的应用，在ICLR，CVPR，FPGA，FCCM等机器学习和FPGA领域的定会上的研究实现和新的突破。下一篇理论分析链接。https://blog.csdn.net/qq_32998593/article/details/86181663 摘要： 首先要说明的是，卷积是指Co...
im2col+gemm实现卷积基础
LuchangLi 的专栏
05-10 3465
im2col+gemm实现卷积基础 NCHW/NHWC到NC1HWC0数据格式图解
通用矩阵乘(GEMM)优化(卷积加速/卷积优化)(FFT & Winograd& Strassen)
hxxjxw的博客
04-04 3282
通用矩阵乘( GEMM, General Matrix Multiplication），是一个名词，是对常规矩阵乘法的一种优化 GEMM在深度学习中是十分重要的，全连接层以及卷积层基本上都是通过GEMM来实现的，而网络中大约90%的运算都是在这两层中。而一个良好的GEMM的实现可以充分利用系统的多级存储结构和程序执行的局部性来充分加速运算 ...
通用矩阵乘（GEMM）优化与卷积计算
qq_35985044的博客
12-28 2611
​ 本文简要介绍通用矩阵乘（GEMM，General Matrix Multiplication）优化的基本概念和方法、神经网络量化中矩阵乘的优化方法。
3D卷积的GEMM+IM2COL实现
qq_40268672的博客
11-05 969
由于pytorch官方的API torch.nn.unfold仅支持二维图像(四维输入张量）的im2col操作，因此，使用GEMM+IM2COL来高效的计算3D卷积并非易事，经过搜索，找到了github上一个很不错的unfold操作实现,它不仅支持4维输入张量的im2col，还支持3、5维张量的im2col，这里给出该仓库的链接 使用该第三方库的方法也很简单，只需通过 import unfoldNd 语句导入即可 以下为使用该第三方库实现的基于GEMM+im2col的3D卷积： import
nc4hw4排布配合neon加速im2col+gemm的卷积推理
hsqyc的博客
04-11 1209
nc4hw4排布配合neon加速im2col+gemm的卷积推理 一:前言 一个tensor常见的内存排布有nchw和nhwc,除此之外,MNN还有一种内存排布方式叫做nc4hw4,如何理解这个排布呢?这种排布对性能又有什么提升呢? 二:什么是nc4hw4 概念本身很简单,两幅图就很能说明.其实nc4hw4准确的说应该是n(c/4)h(w*4).一句话来说就是:沿着c方向取4个数按照w方向排列.如果c不是4的倍数,则全用0补上. 三:nc4hw4如何提升卷积推理性能 nc4hw4的出现就是为了配合矢量操
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值