贝叶斯伪标签：鲁棒高效半监督分割的期望最大化

Bayesian Pseudo Labels: Expectation Maximization for Robust and Efficient Semi-supervised Segmentation

摘要

1. 提出了一种新的伪标记公式，作为一种期望最大化（EM）算法，用于清晰的统计解释。
2. 提出了一种纯粹基于原始伪标记的半监督医学图像分割方法，即SegPL
3. 在2D多类MRI脑瘤分割任务和3D二进制CT肺血管分割任务中，SegPL是一种与最先进的基于一致性正则化的半监督分割方法相竞争的方法。
4. 与现有方法相比，SegPL的简单性允许更低的计算成本
5. 证明了SegPL的有效性可能源于它对分布外噪声和对抗性攻击的鲁棒性
6. 在EM框架下，我们通过变分推理引入了SegPL的概率推广，该方法在训练过程中学习伪标记的动态阈值。我们证明了具有变分推理的SegPL可以与金标准方法Deep Ensemble进行不确定性估计

代码地址

作为期望最大化的伪标签

左图：伪标记的图形模型。伪标签y’n是使用数据xu和模型θ生成的，因此，伪标记可以被视为期望最大化中的E步骤。M阶使用y‘更新θ’n和数据X
右图：用于二进制分割的伪标记。在我们的第一个实现，即SegPL中，阈值T是固定的，用于选择伪标签。在我们的第二个实现中，即SegPL VI中，阈值T是动态的，并通过变分推理学习

网络模型的输出是单通道的，并由 Sigmoid 函数归一化。 我们首先将伪标签视为图形模型的潜在变量。 原始伪标记是对E步的经验估计，用于估计潜在变量，使用伪标签更新模型参数是M步。 我们通过仅使用置信阈值作为潜在变量来进一步简化图形模型。 请参见下图

基于变分推理的伪标签的推广

贝叶斯伪标签 （BPL） 是通过贝叶斯规则对伪标签的概率推广。因为完整的E-step是棘手的，BPL估计了带有变分推理的未标记数据标签的最大可能性。贝叶斯伪标签和变分自动编码器之间的比较如下图所示

BPL和VAE的两个主要区别是：1）BPL只有一个具有明确先验的潜在变量，而VAE具有没有明确先验的高维潜在变量;2）VAE对输入图像的重建进行MAP估计，而BPL对输入图像的看不见的标签进行MAP估计。

实验结果