VGG使用3*3小滤波器卷积层代替5*5或7*7的大滤波器卷积层以减少参数。

本文解释了VGG神经网络通过使用多个小尺寸(如3*3)的卷积层替代大尺寸(如7*7)滤波器,如何显著降低参数量。通过滑动窗口示例,展示了这种结构如何保持信息提取效率。关键在于小滤波器多次观察相当于大滤波器一次性观察,从而减少了权重参数的数量。
摘要由CSDN通过智能技术生成

首先从卷积计算原理着手,一个5*5的输入,经过一个3*3的滤波器滑动9次,输出一个3*3的数据。输出数据的每个元素都对应5*5的9个窗口,再在输出的3*3数据上使用一个3*3的滤波器,可以得到一个数据,对应的是上一个3*3数据。可见,最后得到的数据是两次观察5*5数据得到的,与用5*5的滤波器观察一次数据可以到达到同样的效果。

VGG就使用此思想,用小滤波器卷积层代替大滤波器卷积层,那为什么这样会减少参数量呢?

原文如下:

为了便于理解,用C_{in}代表输入通道数,C_{out}代表输出通道数。输入通道数和滤波器通道数相同,首先用3*3的卷积核滑动25次生成一个5*5的输出数据,对一个input,卷积核不变,所以参数到目前为 C_{in}*3*3。再用一个3*3的卷积核滑动9次,生成一个3*3的数据,到这参数为  C_{in}*3*3*2。然后用一个3*3的卷积核覆盖,参数量变为

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值