Diffusion Model相关论文解析之(八)TransFusion -- A Transparency-Based Diffusion Model for Anomaly Detection

1、摘要

表面异常检测是制造业检测的重要组成部分。重建异常检测方法恢复物体的正常外观，理想情况下只修改异常区域。由于常用重建架构的限制，生成的重建结果往往很差，要么仍然包含异常，要么在无异常区域缺乏细节。目前的重构方法采用扩散模型，但标准的扩散过程不能很好地解决问题。我们提出了一种新的基于透明度的扩散过程，其中异常区域的透明度逐步增加，准确地恢复其正常外观，并保持无异常区域的外观而不丢失细节。我们提出了透明扩散(TransFusion)，这是一种判别异常检测方法，实现了所提出的扩散过程，能够准确地检测下游异常。

2、创新点

TransFusion模型基于ResUNet架构，包含三个预测头：异常外观、异常掩模和正常外观。训练过程涉及合成异常和掩模，并针对每个预测头使用特定损失函数。

3、主要公式

公式（1）：在基于透明度的扩散过程重构中，每幅图像I表示为正常外观N、异常外观A、异常掩码M以及异常与正常外观之间的混合因子β，即透明度等级
公式（2）和（3）：时间步t和t-1对应的公式（1）
公式（4）：公式（2）和（3）做差值
公式（5）：正常外观预测头使用结构相似性(SSIM)损失和L1损失
公式（6）：异常掩码头采用了鉴别异常检测常用的focalloss和Smooth Ll loss
公式（7）：异常外观预测头采用标准L2重构损失
公式（8）：使用额外的一致性损失函数L2。L2将预测的xt-1与真实值xt-1进行比较
公式（9）：则完整的 TransFusion损失为公式（5）、（6）、（7）、（8）的和

4、主要实现过程

下图展示了TransFusion训练和推理过程。通过生成异常掩码M和异常外观ϵ，并根据透明度βt将其加到x上，从正常图像x中创建训练样本。生成图像xt包含合成异常。TransFusion由增强掩码Ma引导。TransFusion输出估计的异常掩码Mt、异常外观ϵt和正常外观nt。在推理时，TransFusion从输入图像推断Mt、ϵt和nt，并根据公式（4）构造下一步图像。预测的掩码Mt和构建的xt−1被用作下一步的输入。