[MICCAI2019] Global and Local Interpretability for Cardiac MRI Classification

作者信息
James R. Clough
King’s College London

---

深度学习可解释性，题目中，
global 是指被分为特定类别的图像有哪些共有特征，具体指本文采用vae+分类网络，利用CAV分析来解释医学概念对分类决策的影响程度
local 是指图像的何种特征导致它被分类器分类成某类，具体指使用VAE得到latent code后，通过对latent code插值来分析影像变化。

CAV （concept activation vectors）(ICML2018)

先介绍下文章中用到的CAV(tensorflow 官方有代码)，是近年来深度学习可解释性方面最具创新性的工作。详细介绍PPT
如下图所示，CAV用来定量分析某一概念对网络预测的重要程度。