25/76-VGG-11

VGG

使用可重复使用的卷积块来构建深度卷积神经网络。
不同的卷积块个数和超参数可以得到不同复杂度的变种。

VGG11

import torch
import os
os.environ["KMP_DUPLICATE_LIB_OK"]="TRUE"
from d2l import torch as d2l
from torch import nn
import matplotlib.pyplot as plt
#GG提出了可以通过重复使用简单的基础块来构建深度模型的思路。
'''
VGG块的组成规律是：连续使用数个相同的填充为1、窗口形状为$3\times 3$的卷积层后接上一个步幅为2、窗口形状为$2\times 2$的最大池化层。
卷积层保持输入的高和宽不变，而池化层则对其减半。
使用vgg_block函数来实现这个基础的VGG块，它可以指定卷积层的数量和输入输出通道数。
'''
#（1）VGG块
def vgg_block(num_convs, in_channels, out_channels):
    blk = []
    for i in range(num_convs):#重复n次
        blk.append(nn.Conv2d(in_channels, out_channels, kernel_size=3, padding=1))
        blk.append(nn.ReLU())
        in_channels=out_channels
    blk.append(nn.MaxPool2d(kernel_size=2, stride=2)) # 这里会使宽高减半
    return nn.Sequential(*blk)


'''
与AlexNet和LeNet一样，VGG网络由卷积层模块后接全连接层模块构成。
卷积层模块串联数个vgg_block，其超参数由变量conv_arch定义。该变量指定了每个VGG块里卷积层个数和输入输出通道数。
全连接模块则跟AlexNet中的一样。
现在我们构造一个VGG网络。它有5个卷积块，前2块使用单卷积层，而后3块使用双卷积层。
第一块的输入输出通道分别是1（因为下面要使用的Fashion-MNIST数据的通道数为1）和64，高宽减半。通道翻倍
之后每次对输出通道数翻倍，直到变为512。因为这个网络使用了8个卷积层和3个全连接层，所以经常被称为VGG-11。
'''

#（2）VGG网络
conv_arch = ((1, 64), (1, 128), (2, 256), (2,  512), (2,  512))#加起来一共8个卷积层1，1，2，2，2，加上最后3个全连接层
# 经过5个vgg_block, 宽高会减半5次, 变成 224/32 = 7
#fc_features = 512 * 7 * 7 # c * w * h
#fc_hidden_units = 4096 # 任意
def vgg(conv_arch):
    conv_blks=[]
    in_channels=1
    for (num_convs,out_channels) in conv_arch:
      conv_blks.append(vgg_block(num_convs,in_channels,out_channels))
      in_channels=out_channels


    return nn.Sequential(*conv_blks,nn.Flatten(),nn.Linear(out_channels * 7 * 7,4096),nn.ReLU(),nn.Dropout(0.5),
                         nn.Linear(4096,4096),nn.ReLU(),nn.Dropout(0.5),nn.Linear(4096,10))

net=vgg(conv_arch)
#观察每个层输出的形状。
X=torch.randn(size=(1,1,224,224))
for blk in net:
    X=blk(X)
    print(blk.__class__.__name__,'output shape:\t',X.shape)
#VGG11比AlexNet计算量更大，因此构建一个通道数较少的网络。
ratio=4
small_conv_arch=[(pair[0],pair[1]//ratio) for pair in conv_arch]
net=vgg(small_conv_arch)
lr,num_epochs,batch_size=0.05,10,128
train_iter,test_iter=d2l.load_data_fashion_mnist(batch_size,resize=224)
d2l.train_ch6(net,train_iter,test_iter,num_epochs,lr,d2l.try_gpu(0))
plt.show()
#16:32开始16：44结束，12分钟，loss 0.173, train acc 0.936, test acc 0.922，比AlexNet0.883提高了
#1035.0 examples/sec on cuda:0