【深度学习基础】对于模型结构、感受野和复杂度的初步认识

· 有人说，计算无外乎 y = wx + b。
· 控制论的一个角度：非线性模型，往往不可满足可加性，所以我们要将它线性化，尽可能逼近这个模型。
· 我们认为AI看似很容易做到的事情，往往是研究人员多年的目标——向他们致敬。

————————————

一、CNN基础

1、输出尺寸

(1) 卷积层（convolutional layer）

上式的n实际上是输入、输出特征的尺寸。卷积层输出特征的通道数与卷积核的数量相同。

(2) 池化层（pooling layer）
· 池化层单个patch的计算公式同卷积操作；
· 池化层输出的patch数量与输入patch的数量相同。

(3) 全连接层（Full-connected layer）
· 全连接层相当于单层感知器，由于是密集连接，其输出维度可以任意设置。
——————————————

2、感受野（Receptove Field）

· 感受野RF指的是网络当前层输出的特征patch中的一个网络（特征图的