直播|俄勒冈州立大学李伏欣：从热点图到对深度网络的结构化解释

本期为青源LIVE第36期线上直播活动，参与直播互动有惊喜🎁！

由于对深度图像的解释需要可靠的热点图工具，李伏欣博士及其团队利用积分梯度(integrated gradients)设计了I-GOS和iGOS++算法。这两个算法使用积分梯度进行优化，避免了局部最优解，提升了热点图的可靠性，尤其是在要求热点图的分辨率较高时。iGOS++算法在生成高分辨率热点图时的性能远超其它同类算法。一个有趣的应用是，在使用iGOS++试图解释从X光胸片预测新冠病例的深度分类器时，发现了深度分类器在图像中打印的字母上过拟合的问题。这展示了解释算法在debug深度分类器中的应用。

本期青源live李伏欣博士将介绍其在过去几年中在解释深度图像分类器（如CNN）问题上做的一系列工作。