在CNN网络结构的进化过程中,出现过许多优秀的CNN网络,如:LeNet,AlexNet,VGG-Net,GoogLeNet,ResNet,他们对CNN的发展进化起着至关重要的作用。
LeNet:
LeNet诞生于1998年,网络结构比较完整,包括卷积层、pooling层、全连接层。被认为是CNN的鼻祖。
AlexNet:
2012年提出AlexNet网络
主要优势包括:
网络加深(5个卷积层+3个全连接层+1个softmax层);
解决过拟合(dropout,data augmentation,LRN);
多GPU运算。
VGG-Net:
2014年提出VGG-Net网络,。
主要优势包括:
网络更深,使用更多的层,通常有16-19层;
所有 卷积层用同样大小(3 x 3)的 卷积核 。