一、论文理论
可变形自注意力模块根据数据需要选择自注意力中的关键点和值,使模型专注于相关区域并捕捉更重要的特征。
论文地址:Vision Transformer with Deformable Attention
1.理论思想
可变形注意力机制
2.创新点
(1)可变形注意力:解决传统自注意力机制处理图像中所有像素导致计算量较大等问题,本文所设计的模块只关注部分关键区域,减少计算量。
(2)动态采样点:动态选择采样点,使模型关注当前任务重要特征部分
(3)即插即用
可变形自注意力模块根据数据需要选择自注意力中的关键点和值,使模型专注于相关区域并捕捉更重要的特征。
论文地址:Vision Transformer with Deformable Attention
可变形注意力机制
(1)可变形注意力:解决传统自注意力机制处理图像中所有像素导致计算量较大等问题,本文所设计的模块只关注部分关键区域,减少计算量。
(2)动态采样点:动态选择采样点,使模型关注当前任务重要特征部分
(3)即插即用