一、AlexNet模型实现
(1)AlexNet模型简要介绍
该模型包含8层变换,有5层卷积和2层全连接隐藏层,以及1个全连接输出层。第 1 个卷积层使用 96 个大小为 11*11*3 的卷积核对输入图像进行卷积操作,再经过 ReLu 激活函数、局部响应归一化与最大值池化;第 2个卷积层操作同上一个卷积层,但使用 128 个大小为 5*5*48 的卷积核;后面 3 个卷积层使用大小均为 3*3 的卷积核,再通过ReLu 激活函数(相较于sigmoid激活函数,计算更简单,网络更容易训练)或最大值池化。两个全连接层进行全连接、ReLu 函数激活、Dropout(随机失活,控制全连接层的模型复杂度)等操作,最终输出4096个神经元通过 Softmax 得到预测概率值
(2)构建模型与训练
- 数据集
2.数据可视化
3.实验环境
(3)AlexNet训练进度与Loss
二、ResNet-50模型实现
(1)ResNet-50模型简要介绍
传统的卷积神经网络随着层数深度的增加,会面临网络退化、梯度消失、梯度爆炸等问题,使得高层网络的性能反而不如浅层网络。ResNet网络引入BN层和残差,解决了网络退化问题,实现网络层数的加深,使之拥有足够好的特征提取能力。
ResNet-50有两个基本的块,分别名为Conv_Block和Identity Block,其网络结构如图所示,左边是ResNet-50的整体网络结构,中间是Conv Block的网络结构,右边是Identity Block的网络结构,ResNet-50中包含多个Conv Block和Identity Block的不同组合。
(2)构建模型与训练
- ResNet-50训练进度与Loss