人工智能第十次作业

1. LeNet & MNIST

LeNet初步确立了CNN的基本结构，是最早的卷积神经网络之一。由多个卷积层、池化层、全连接层、输出层等组成。

MNIST是一个数据集，MNIST数据集是从NIST的两个手写数字数据集中分别取出部分图像，并经过一些图像处理后得到的。不仅可以用来训练数据集，还可进行测试。

2、AlexNet & CIFAR

AlexNet是第一个现代深度卷积网络模型，包含5个卷积层、3个汇聚层和3个全连接层。首次使用了很多技术方法。如GPU进行并行训练，ReLU作为非线性激活函数，Dropout防止过拟合，使用数据增强。

CIFAR起初的数据集共分10类，CIFAR共包含60000张32*32的彩色图像（包含50000张训练图片，10000张测试图片），其中没有任何类型重叠的情况。后来CIFAR又出了一个分类更多的版本叫CIFAR-100，共有100类，将图片分得更细。

3、VGG Net

VGG Net具有更小的卷积核和更深的网络结构。VGG Net就是在Alexnet 的基础上拓宽了网络深度。并且将有权重的层叠加至16或19层，根据层的深度，称“VGG16”或“VGG19”。VGG Net的网络模型的结果表明深度有利于结果的准确性。

4、 GoogLeNet & Inception v1

GoogLeNet是2014年Christian Szegedy提出的一种全新的深度学习结构。

inception的提出从另一种角度来提升训练结果：能更高效的利用计算资源，在相同的计算量下能提取到更多的特征，从而提升训练结果。在相同尺寸的感受野中叠加更多的卷积，能提取到更丰富的特征，并且降低了计算复杂度。

5、ResNet

ResNet以VGG网络为基础，引入快捷结构以加深层。 残差网络的特点是容易优化，并且能够通过增加相当的深度来提高准确率。其内部的残差块使用了跳跃连接，缓解了在深度神经网络中增加深度带来的梯度消失问题。