1、Linear
- 线性层(或者叫全连接层)后面跟激活函数
2、感受野(receptive field)和权值共享(weight sharing)
-
感受野源自人看事物是一部分一部分的看
所以对于卷积核来说,每次扫过图片的大小就是卷积核的大小 -
权值共享指的就是卷积核里的权值不变,对于整张图片都一样
3、局部相关性
- 对于卷积结果来说,只与卷积窗口覆盖区域有关
- 而在线性层时,其结果与整个输入都有关联
4、特征学习(representation learning)
- 以卷积神经网络为例,每一层卷积都会提取到某些特征
- 例如一辆车:第一层可能提取到边缘,第二层是形状,第三层是轮子等
5、pytorch函数库或类的使用
- 一般小写的是函数,大写的是类
- F.conv2d 函数
- nn.Conv2d 类