6. 简单卷积神经网络示例:
在卷积神经网络中,高度和宽度在几层范围内保持不变,随着神经网络的层数加深,高度和宽度值减小;过滤器的通道数逐渐增加。多数卷积神经网络的例子,都符合这一趋势。
卷积神经网络通常有三层:卷积层、池化层、全连接层
7.池化层
类型1:最大池化层:如果在过滤器中获取某一特征,那么保留最大值,若没有这一特征,提取的值依旧会很小。So,特征极有可能出现在左上象限中。
类型2:平均池化层:获取过滤器的平均值。最大池化比平均池化常用,但在深度很深的网络中,平均池化可用于分解规模为7*7*1000的网络的表示层,在整个空间中求平均后得到一个1*1*1000数据。
总结:池化层常用的超参数:f=2,s=2,其效果相当于输出高度和宽度缩减一半。池化过程中没有参数需要学习,属于神经网络的静态属性。