利用异常数据集训练异常检测器,这种方法称为异常暴露(Outlier Exposure,OE)。这使异常检测器能够泛化和检测未见的异常。在大量自然语言处理以及小规模和大规模视觉任务的广泛实验中,文章发现Outlier Exposure可显着提高检测性能。
Outlier Exposure
所谓异常暴露,就是给异常检测器引入异常数据,让模型能从已有的异常数据中获得启发,从而能泛化出未曾见过的异常。
这篇文章只有一个公式,即模型引入OE后的优化目标:
E ( x , y ) ∼ D in [ L ( f ( x ) , y ) + λ E x ′ ∼ D out OE [ L O E ( f ( x ′ ) , f ( x ) , y ) ] ] \mathbb{E}_{(x, y) \sim \mathcal{D}_{\text {in }}}\left[\mathcal{L}(f(x), y)+\lambda \mathbb{E}_{x^{\prime} \sim \mathcal{D}_{\text {out }}^{\text {OE }}}\left[\mathcal{L}_{\mathrm{OE}}\left(f\left(x^{\prime}\right), f(x), y\right)\right]\right] E(x,y)∼Din [L(f(x),y)+λEx′∼Dout OE [LOE(f(x′),f(x),y)]]
其中第一项是 L \mathcal{L} L原模型在原任务上的优化目标,第二项 L O E \mathcal{L}_{OE} LOE