Local Response Normalization (LRN)
type: LRN
此层是对一个输入的局部区域进行归一化,达到“侧抑制”的效果。
参见实例: AlexNet或GoogLenet
参数(optional):
local_size: 默认为5。如果是跨通道LRN,则表示求和的通道数;如果是在通道内LRN,则表示求和的正方形区域长度。
alpha: 默认为1,归一化公式中的参数。
beta: 默认为5,归一化公式中的参数。
norm_region: 默认为ACROSS_CHANNELS。
有两个选择:
ACROSS_CHANNELS表示在相邻的通道间求和归一化,表示局部区域沿临近通道延伸,局部区域块形状为local_sizex1x1。
WITHIN_CHANNEL表示在一个通道内部特定的区域内进行求和归一化。局部区域形状为1xlocal_sizexlocal_size。归一化时,在各自通道内部的图像平面上延伸,每个输入值乘以如下公式:
layers {
name: "norm1"
type: LRN
bottom: "pool1"
top: "norm1"
lrn_param {
local_size: 5
alpha: 0.0001
beta: 0.75
}
}