3D机器学习（12）：AlexNet、VGG、GoogNet、Resnet、Densenet、nn.Module、数据增强

从2010年开始，深度学习开始进入人们视野，2012年的Alexnet是第一个真真意义上的深度网络，尽管只有8层，但其错误率只有16.4%，2015年微软亚洲研究院的何凯明同学的Resnet使得错误率降低至3.57。

AlexNet 人工分配两块GPU，因此上图会有两条路线，但现在都是框架自己主动分配了。使用了11*11的卷积核。7层隐藏层，共8层，60M的参数，训练了1周。现在不会用这种网络结构了，因为太过时了。