计算机视觉注意力机制

注意力机制可以分为四类：基于输入项的柔性注意力（Item-wise Soft Attention）、基于输入项的硬性注意力（Item-wise Hard Attention）、基于位置的柔性注意力（Location-wise Soft Attention）、基于位置的硬性注意力（Location-wise Hard Attention）。

 总之，注意力机制能够帮助模型选择更好的中间特征，表给出了这里介绍的注意力机制的四种类型。