一、【WACV2023】 DSTrans: Dual-Stream Transformer for Hyperspectral Image Restoration
- 提出了一种新的DSTrans,它是一个为HSI恢复量身定制的Transformer。这是第一次尝试探索Transformer在HSI恢复中的潜力。除了HSI样本,DSTrans还利用了来自异构数据集,以了解DSTrans的参数分布。
- 提出了一种新的注意机制,双流注意,以获取两个平行分支中HSIs的全局像素和谱间相似度和依赖关系。此外,提出了双流前馈网络,以同时提取全局信号和局部细节。
- 大量的实验证明,本文的DSTrans在多个HSI数据集上的HSI去噪和HSI SR任务方面大大优于SOTA方法。
二、【ICLR2023】3D UX-Net: A Large Kernel Volumetric ConvNet Modernizing Hierarchical Transformer for Medical Image Segmentation
- 提出3D UX-Net,以适应transformer的行为纯ConvNet模块在体积设置。这是第一个利用3D深度卷积在体积分割任务中与变压器sota有利竞争的大型内核块设计。
- 利用LK大小的深度卷积作为通用特征提取骨干,并引入点深度卷积以更少的参数有效地缩放提取的表示。
- 使用三个具有挑战性的公共数据集在1)直接训练和2)使用体积多器官/组织分割的微调场景中评估3D UX-Net。3D UX-Net在所有ConvNets和变压器SOTA的两种情况下都取得了持续的改进,模型参数更少。
三、【CVPR2023】SimpleNet: A Simple Network for Image Anomaly Detection and Localization
- 提出了一个简单且应用友好的网络(称为SimpleNet),用于检测和定位异常。SimpleNet由四个组件组成:(1)预训练的特征提取器(Feature Extractor)生成局部特征,(2)浅层特征适配器(Feature Adapter)将局部特征转移到目标域,(3)简单的异常特征生成器(Anomaly Feature Generator)通过向正常特征添加高斯噪声来伪造异常特征,以及(4)二进制异常鉴别器(binary Anomaly Discriminator)区分异常特征和正常特征。在推断期间,异常特征生成器将被丢弃。
五、【CVPR2023】Learning A Sparse Transformer Network for Effective Image Deraining
- 提出了一种稀疏Transformer架构,以帮助生成高质量的脱轨结果,具有更准确的细节和纹理恢复。
- 开发了一个简单而有效的可学习的top-k选择算子,以自适应地保持最有用的自注意值,以更好地聚集特征。
- 设计了一种有效的基于混合尺度融合策略的前馈网络,以探索多尺度表示,从而更好地促进图像的脱轨。
- 在各种基准测试上的大量实验结果表明,本文的方法与最先进的(SOTA)方法相比具有良好的性能。