Analysis of Computational Complexity and Space Complexity (NN algorithem)

最新推荐文章于 2024-02-09 09:28:22 发布

水木刀

最新推荐文章于 2024-02-09 09:28:22 发布

阅读量415

点赞数

分类专栏： FPGA+CNN 文章标签： cnn-人脸识别

0 篇文章 0 订阅

订阅专栏

convolution layer
对于卷积层，每个输入的特征图有一个大小为 $F_w*F_h$ 的卷积核，并产生 $W_{cout}*H_{cout}$ 大小的输出特征图。同时输入输出特征图数量分别为 $N_{in},N_{cout}$
对于每个元素需要乘法和加法两种操作，则卷积层所有的操作为
$C c o n v = 2 * N i n * F w * F h * W c o u t * H c o u t * N c o u t$ $C_{conv} = 2*N_{in}*F_w*F_h*W_{cout}*H_{cout}*N_{cout}$
relu激活层
对于RELU激活层，则对于每个单元，仅有一个操作（比较操作），则结果为
$C r e l u = N c o u t$ $C_{relu} = N_{cout}$
pooling layer
下采样层中，每个filter的大小为 $P_w*P_h$ ，产生 $N_{pout}$ 个大小为 $W_{pout}*H_{pout}$ 的输出图像，则pooling layer的所有操作为
$C p o o l = P w * P h * W p o u t * H p o u t * N p o u t$ $C_{pool} = P_w*P_h*W_{pout}*H_{pout}*N_{pout}$
FC layer
全链接层中，输入特征数量和权重的进行乘加操作，则结果为
$C F C = 2 * N f c i n * N f c o u t$ $C_{FC} = 2*N_{fcin}*N_{fcout}$
权重数据

$S C o n v = w 2 * N c i n * N c o u t$ $S_{Conv} = w^2*N_{cin}*N_{cout}$
fc层

$S C o n v = N F C i n * N F C o u t$ $S_{Conv} = N_{FCin}*N_{FCout}$

对于VGG16模型，统计如下表
这里写图片描述

from paper:Acceleration of Deep Learning on FPGA

关注

专栏目录