Explainable Machine Learning

1.定义       

Explainable指的是有一个东西是黑箱，我们想办法赋予它解释的能力

Interpretable指的是有一个东西本来就不是黑箱

2.Goal of Explainable ML

Make people comfortable ，给人们一个理由让人们更好接收

 

3.Local Explanation

Which component is critical

Removing or modifying the componets

large decision change ===> Important component

的大小表示该的重要程度，如下图的Saliency Map

 亮白色的点表示越大，该pixel更重要

 

4.Global Explanation

Create an image including the patterns

Image X contains the patterns that filter can detect

现在database里没有特定图片，我们需要机器去创造一张图片包含filter想要的pattern，这样我们看这张图片内容就知道它负责的detect是什么。