<<What is the Best Muti-Stage Architecture for object Recognition>>
一篇比较老的文章,主要描述了目标识别常用模型的layer组成,通过在Caltech-101、NORB、MNIST等数据集上的测试实验体现了non-linearities、Random Filter / hard-wired Filter、监督 / 非监督训练方法、单层特征提取结构 / 两层特征提取结构对于识别精度的影响。具体内容如下:
首先,作者提出了三个问题:
1、滤波层后的non-linearities对识别精度有何影响?
2、用监督或非监督学习方法能否提升Random Filter / hard-wired Filter的效果?
3、两层特征提取结构效果是否要比单层特征提取结构效果好?
然后简单介绍了模型的几个常用Layer:
Layer1、滤波层Filter Bank Layer - Fcsg:
这一部分包含了三个部分,即C:卷积滤波器,S:非线性变化函数(sigmoid/tanh),G:增益系数,总体表达为:
这里文章里计算filter size的时候好像是一处笔误,应该是m2 = n2 - l1 + 1吧~
Layer2、校正层Retification Layer - Rabs:
这里用的是绝对值运算,作者表示也尝试过其他的非线性方法,结果差不多。
Layer3、局部对比度归一化层Local Contrast Norma