第十一课:深度卷积网络:实例探究(Deep convolutional models:case studies)
2.1 为什么要进行实例探究
PASS
2.2 经典网络(Classic networks)
三种经典的网络结构
1.LeNet-5
该网络结构没有使用padding,对于池化层,如果s=2,f=2,则图像的高度和宽度都缩小2倍,随着网络层的增加,图像的高度和宽度在缩小,而通道数在增加。
用的是平均池化
2.AlexNet
使用了same卷积,使用后图像的高度和宽度不变,使用了最大池化后宽度和高度减半。
3.VGG-16
Conv 64表示卷积核有64个,VGG-16表示有16个网络层和全连接层。其本身结构简单,没经过一次网络层,宽度和高度都减半,通道数都翻倍。
2.3 残差网络(ResNets)
国内的何恺明大佬提出的
个人理解:如上图,对于两层神经网络,若要计算 a [ l + 2 ] a^{[l+2]} a[l+2],需要进行一步步线性操作以及使用Relu激活函数,也就是,信息从 a [ l ] a^{[l]} a