CFLOW-AD：通过条件归一化流量进行实时无监督的异常检测与定位

        CFLOW-AD基于条件归一化流框架，由一个辨别性的预训练编码器和一个多尺度生成编码器组成。这种类型的AD任务也被叫做具有AD目标的分布外检测（OOD）任务。 CFLOW-AD不需要得知特征图的空间维度（类似CNN，选取特征维度），低维信息可以使用K近邻和更先进的聚类方法完成。

        我们的平移变量模型被训练成将具有pX(x)密度的原始分布转换成具有pZ(z)密度的高斯分布。最后，这个模型用一个阈值τ将具有pZ(z)的分布内斑块与具有p˜Z(z)的分布外斑块区分开来，这个阈值被计算为与分布平均值的欧氏距离。

        AD方法：（1）使用CNN特征提取器，进行主成分分析和kmean聚类，特征提取器选取在ImageNet上与训练的ResNet18，但是聚类很慢，如果想做到实时，需要使用并行卷积的方法。  

（2） 采用生成模型的理念与基于特征提取不同，生成模型学习无异常数据的分布，能够估计异常分数的代理指标，常用的是GAN和VAE。

        以往的一些基于生成模型只捕获低层次的相关性，不能获取高纬度的语义信息，一部分模型使用预训练的特征提取器和多尺度金字塔模型接上一个卷积自动编码器

（3）知识蒸馏：采用学生-教师类型框架，但效果一般

CFLOW-AD：

        实现了多尺度特征金字塔池的特征提取方案，CNN特征提取器定义为编码器h(λ），CNN将图像级碎片X映射到特征向量Z，包含相关语义信息。

        异常具有不同的大小和形状，必须要用可变的感受野进行处理，为了增大感受野，采用通用的多尺度特征金字塔池化方法，图中显示特征向量Zk有第k层提取，金字塔池利用第一层和最后一层CNN的小感受野和大感受野来捕获局部和全局信息。

采用全卷积等变翻译架构的CFLOW-AD概述。编码器h(λ)是具有多尺度金字塔池的CNN特征提取器。金字塔池通过从上到下的感受域的增长来捕获全局和局部语义信息。对于每个第k尺度，由一组解码器gk(θk)独立地处理汇集的特征向量zki。我们的解码器是具有特征输入zki和具有来自位置编码器(PE)的空间信息的条件输入cki的条件归一化流网络。估计的多尺度似然pki被上采样到输入大小并相加以产生异常图。

        模型在刚开始训练的时候比较不稳定的，刚开始的学习率应当设置得很低很低，这样可以保证网络能够具有良好的收敛性。但是较低的学习率会使得训练过程变得非常缓慢，因此采用较低学习率逐渐增大至较高学习率的方式实现网络训练的“热身”阶段，称为 warmup stage。