【Block总结】掩码窗口自注意力 (M-WSA)

摘要

论文链接：https://arxiv.org/pdf/2404.07846
论文标题：Transformer-Based Blind-Spot Network for Self-Supervised Image Denoising
Masked Window-Based Self-Attention (M-WSA) 是一种新颖的自注意力机制，旨在解决传统自注意力方法在处理图像时的局限性，特别是在图像去噪和恢复任务中。M-WSA 通过引入掩码机制，确保在计算注意力时遵循盲点要求，从而避免信息泄露。

设计原理

1. 窗口自注意力：M-WSA 基于窗口自注意力（Window Self-Attention, WSA）的概念，将输入图像划分为多个不重叠的窗口。在每个窗口内，计算自注意力以捕捉局部特征。这种方法的计算复杂度相对较低，适合处理高分辨率图像。

2. 掩码机制：为了满足盲点要求，M-WSA 在计算注意力时应用了掩码。具体而言，掩码限制了每个像素只能关注其窗口内的特定像素，从而避免了对盲点