【深度之眼】【神经网络基础知识】：卷积神经网络

一、卷积神经网络发展史

卷积神经网络(convolutional neural networks，CNN) CNN是针对图像领域任务提出的神经网络，经历数代人的发展，在2012年之后大部分图 像任务被CNN统治，例如图像分类，图像分割，目标检测，图像检索等。

猫的视觉系统实验

1. 神经元存在局部感受区域(receptive field)，也称感受野
2. 细胞对角度有选择性
3. 细胞对运动方向有选择性

• 对CNN启发
  (1)视觉系统是分层、分级的进行处理，从低级到高级的抽象过程->堆叠使用卷积和池化
  (2)神经元实际上是存在局部的感受区域的，具体说来，它们是局部敏感 ->神经元局部连接

• CNN历史上三个第一
  第一个卷积神经网络雏形——新认知机(Neocognitron)
  第一个大规模商用卷积神经网络——Lenet-5
  第一个技惊四座的卷积神经网络——AlexNet（2012）

二、卷积操作

• 图像识别特点
  • 特征具有局部性
  • 特征可能出现在任何位置
  • 下采样图像，不会改变图像目标

1. 特征具有局部性:卷积核每次仅连接KK区域，KK是卷积核尺寸
2. 特征可能出现在任何位置:卷积核参数重复使用(参数共享)，在图像上滑动

• 卷积核:具可学习参数的算子，用于对输入图像进行特征提取