本文介绍了SENet的模型框架，包括Squeeze和Excitation操作，并展示了如何在Tensorflow2.0的keras中实现SE-ResNet50，强调了SE模块的位置对模型性能的影响。
文章目录
注意机制模型
模型框架
SENet是一种能够灵活嵌入经典卷积神经网络block，并具有注意力机制的模型构架，整体思想如下图：
对于任意的特征变换操作 F t r : X → U F_{tr}:X\rightarrow U Ftr:X→U，其中 X ∈ R H ′ × W ′ × C ′ X\in \mathbb{R}^{
{H}'\times {W}'\times {C}'} X∈RH′×W′×C′, U ∈ R H × W × C U\in \mathbb{R}^{H\times W\times C} U∈RH×W×C, F t r F_{tr} Ftr表示类似卷积操作的特征变换过程。
u c = v c ∗ X = ∑ s = 1 C ′ v c s ∗ x s u_{c}=v_{c}*X=\sum_{s=1}^{
{C}'}v_{c}^{s}*x^{s} uc=vc∗X=s=1∑C′vcs∗xs
*表示卷积操作
X = [ x 1 , x 2 , . . . , x C ′ ] X=[x^{1},x^{2},...,x^{
{C}'}] X=[x1,x2,...,xC′] 表示卷积核输入特征层
v c = [ v c 1 , v c 2 , . . . , v c C ′ ] v_{c}=[v_{c}^{1},v_{c}^{2},...,v_{c}^{
{C}'}] v
最低0.47元/天 解锁文章
691
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
