1.全连接
1图片的输入方式
法1.将图片拉直
但拉直会使参数量过多,导致过拟合
法2.卷积神经网络 revolution
涉及的概念 卷积核,特征图,神经元的感受野:卷积核的大小
通过卷积核与图片卷积得到特征图;
每次卷积得到的特征图都会变小,为了保持不变引入zeropadding 补零,在原始图片加上一圈的0
有五个卷积核就可以得到五张特征图,若再想卷积,可以利用这五张特征图叠加一起(为什么五张特征图叠加一起可以作为一张特征图),作为一张特征图继续卷积。
特征图和卷积核的计算:
特征图怎么变小:
1.扩大步长 ,缺点会丢失信息,且引入计算
2.池化pooling
adaptiveavgpool(7) 降至转化为7*7
得到的特征图,拉直进行全连接
通过softmax函数将的出的结果(分布)进行概率化
在代码中可以直接将分布交给交叉熵函数的处概率分布
分类神经网络的框架,流程
二,AlexNet
drop out关掉一些神经元,防止过拟合
归一化:将数据映射到一个标准的范围,以消除不同特征之间的尺度差异
特征归一化:让同一维的每一个数据归一化
batch norm 批归一化