Introduction
《Attention U-Net: Learning Where to Look for the Pancreas》发表于2018CVPR,相对于定位+分割的级联方式实现的精准语义分割,通过添加attention gate的方式隐式的学习对于胰腺分割重要的特征,省略不重要的特征。
Network Architecture
网络结构类似于U-net,区别是U-net在解码器和编码器同层级只进行拼接操作,此处则加入了attention gate,用于将同层级的encoder部分编码进行加权;
Attention gate
Attention的计算过程为:首先将decoder部分对应的输出g进行上采样+卷积(作用和反卷积类似),加卷积的目的是使两部分的channel数一致;然后分别使用1维卷积将g和x(来自于同层次的encoder)进行降维,channel数变为原来的1/2。然后两部分结果相加,经过激活函数,一维卷积将channel数降至1,然后经过sigmod函数,得到和x大小相同的1维的attention map,和原来的x做element-wise的乘法,得到加权后的向量;