结合全卷积网络FCN分析:
1.传统的手工特征算子,没有优化同一个目标函数,Learner的error不能传递给特征的representation
2.深度学习提取特征是数据驱动,任务的具体特征提取。
3.结合BP优化
4.传统的卷积+全连接:在图像层次的表达上面,丢失了空间上下文信息
5.卷积网络适用于空间相关的信号,递归网络适用于时间相关的信号。卷积和递归是一种嵌入到结构中的先验。
6.图像分割:逐像素点预测,对于输入的每个像素点,我们都想知道它属于哪一个对象的(类)。
7.用反卷积层代替全连接层,进行逐像素的分类和预留空间背景(deconv:特征图上采样,crop确保输入输出都是同样的大小)type:"Deconvolution"
8.反卷积中使用双线性插值上采样,使得最终结构非常coarse粗糙,FCN+CRF(条件随机场) refine得到最终结果是目前语义分割的标配
示例:训练参数:预设权重,0学习率,Batch_size=1,Momentum=0.99
Layer{
type:"Deconvolution"
name:"deconv1"
bottom:"pool1"
top:"deconv1"
param{
lr_mult:0 #0学习率
decay_mult:1
}
param{
lr_mult:0
decay_mult:1
}
convolution_param{
stride:2
kernel_size:4
padding:1
num_output:1
}
}
1.传统的手工特征算子,没有优化同一个目标函数,Learner的error不能传递给特征的representation
2.深度学习提取特征是数据驱动,任务的具体特征提取。
3.结合BP优化
4.传统的卷积+全连接:在图像层次的表达上面,丢失了空间上下文信息
5.卷积网络适用于空间相关的信号,递归网络适用于时间相关的信号。卷积和递归是一种嵌入到结构中的先验。
6.图像分割:逐像素点预测,对于输入的每个像素点,我们都想知道它属于哪一个对象的(类)。
7.用反卷积层代替全连接层,进行逐像素的分类和预留空间背景(deconv:特征图上采样,crop确保输入输出都是同样的大小)type:"Deconvolution"
8.反卷积中使用双线性插值上采样,使得最终结构非常coarse粗糙,FCN+CRF(条件随机场) refine得到最终结果是目前语义分割的标配
示例:训练参数:预设权重,0学习率,Batch_size=1,Momentum=0.99
Layer{
type:"Deconvolution"
name:"deconv1"
bottom:"pool1"
top:"deconv1"
param{
lr_mult:0 #0学习率
decay_mult:1
}
param{
lr_mult:0
decay_mult:1
}
convolution_param{
stride:2
kernel_size:4
padding:1
num_output:1
}
}