干货！细粒度OOD检测初探

点击蓝字

关注我们

AI TIME欢迎每一位AI爱好者的加入！

OOD检测/开集识别是关于深度学习系统可靠性的重要问题。先前工作大多关注粗粒度的场景而忽视了细粒度情景。

细粒度环境中，未知样本可能与已知样本有着极高的视觉/语义相似度。检测这些细粒度未知样本进而变得十分困难。

本工作中，我们首先构建了四个大型的针对细粒度OOD检测的测试环境，并发现已有方法对细粒度未知样本检测效果不佳。

基于初始实验和分析，我们发现检测的难点在于现有方法不能很好的约束模型对于细粒度未知样本的输出。进而我们提出了MixOE来解决这一问题。MixOE在四个测试环境中均显著提升了细粒度OOD检测精度。

我们希望该工作可以帮助未来研究更好地探索细粒度OOD检测这一有挑战性的问题。

本期AI TIME PhD直播间，我们邀请杜克大学电子与计算机工程系博士生——张静阳，为我们带来报告分享《细粒度OOD检测初探》。

我们将首先介绍一下OOD检测与细粒度检测的相关概念，之后揭示一下我们在细粒度OOD检测方面的工作。并且我们根据相应分析提出了一套我们自己的训练算法，最后展示了我们得到的实验结果和结论。

张静阳：

本科毕业于清华大学电子工程系，目前是杜克大学电子与计算机工程系三年级博士生，师从李海和陈怡然老师。他的主要研究方向为提升深度学习模型的安全性和可靠性，具体包括对抗攻击/防御，开集识别/OOD检测。

01

  OOD detection: Enabling DNNs to 

  operate in the open world

我们以图像识别任务为例,同样的讨论可以泛化到其他一些相似的任务。假设训练好的分类器来识别猫、狗和汽车，该分类器在现实生活中接收到的输入可能会有两类：

• In-distribution (ID) samples: cat/do