caffe学习笔记28-全卷积网络FCN笔记

结合全卷积网络FCN分析：
1.传统的手工特征算子，没有优化同一个目标函数，Learner的error不能传递给特征的representation
2.深度学习提取特征是数据驱动，任务的具体特征提取。
3.结合BP优化
4.传统的卷积+全连接：在图像层次的表达上面，丢失了空间上下文信息
5.卷积网络适用于空间相关的信号，递归网络适用于时间相关的信号。卷积和递归是一种嵌入到结构中的先验。
6.图像分割：逐像素点预测，对于输入的每个像素点，我们都想知道它属于哪一个对象的（类）。
7.用反卷积层代替全连接层，进行逐像素的分类和预留空间背景（deconv:特征图上采样，crop确保输入输出都是同样的大小）type:"Deconvolution"
8.反卷积中使用双线性插值上采样，使得最终结构非常coarse粗糙，FCN+CRF（条件随机场） refine得到最终结果是目前语义分割的标配
示例：训练参数：预设权重，0学习率，Batch_size=1,Momentum=0.99
Layer{
    type:"Deconvolution"
    name:"deconv1"
    bottom:"pool1"
    top:"deconv1"
    param{
      lr_mult:0 #0学习率
      decay_mult:1
    }
    param{
      lr_mult:0
      decay_mult:1
    }
    convolution_param{
    stride:2
      kernel_size:4
      padding:1
      num_output:1
    }
}