一、卷积(目的:自动获取特征)
1.卷积核
就是加权求和中的权重,和MLP中的w向量是一样的
2.运算:由输入的数据空间 以及 卷积核决定(超参数:填充与步长)
3.卷积神经网络的深度和宽度
深度由卷积几次决定,宽度由卷积核的个数决定
二、激活
在加权求和这一线性变换后,再利用激活函数引进非线性变换,使得能找到一个超平面(即一系列交互的特征)来对样本进行区分
三、池化(亚采样、下采样)
1.可以在保证大部分重要信息的同时,降低各个特征图的维度(比如一张清晰的猫咪图案,经过池化后变得模糊,但仍能辨认出是猫咪)
2.池化方法有最大池化、求和池化、平均池化等(这三个定义空间邻域来实现,一般最大池化效果最好,下面2x2最大池化示意图)
四、全连接(就是传统的神经网络,即拉伸成一维特征空间后,前面所有的神经元与下一层的神经元连接)
(卷积神经网络+传统神经网络)
以上图为例,在S4这一步一共有16个5*5分辨率的二维/特征图像,将他们拉伸成一维特征向量(一个个像素点依次排列,一共400个像素点,长度为400),然后作为输入层的输入数据传输到隐藏层,图中有两个隐藏层,分别含有120个神经元和84个神经元,最后输出10个类别的概率。