Deblurring Masked Autoencoder Is Better Recipe for Ultrasound Image Recognition论文速读

摘要

掩蔽自动编码器（MAE）引起了前所未有的关注，并在许多视觉任务中取得了卓越的性能。它在预训练期间重建随机掩码图像补丁（称为代理任务），并学习有意义的语义表示，这些语义表示可以转移到下游任务。然而，MAE在超声成像中尚未得到彻底探索。在这项工作中，我们研究了MAE在超声图像识别中的潜力。受超声成像在高噪信比下的独特特性的启发，我们提出了一种新颖的去模糊 MAE 方法，该方法在预训练期间将去模糊纳入代理任务中。去模糊的加入有助于预训练，以更好地恢复超声图像中呈现的细微细节，从而提高下游分类任务的性能。
代码地址

方法

首先我们来看看他的代理任务是什么：

• 他是先将原图像增加模糊过后再进行mask，经过重建过后与原图作损失
• 这里模糊的方法为Gaussian和 speckle reducing anisotropic diffusion (SRAD)
  实验流程图如下：
  

他这里的损失·函数采用的就是MSE损失函数

数据量：总共使用了 10,675 张图像进行预训练，并使用 4,493 张图像进行下游分类。下游分类数据集包含 2,576 例良性和 1,917 例恶性病例

实验结果