1.定义
Explainable指的是有一个东西是黑箱,我们想办法赋予它解释的能力
Interpretable指的是有一个东西本来就不是黑箱
2.Goal of Explainable ML
Make people comfortable ,给人们一个理由让人们更好接收
3.Local Explanation
Which component is critical
Removing or modifying the componets
large decision change ===> Important component
的大小表示该的重要程度,如下图的Saliency Map
亮白色的点表示越大,该pixel更重要
4.Global Explanation
Create an image including the patterns
Image X contains the patterns that filter can detect
现在database里没有特定图片,我们需要机器去创造一张图片包含filter想要的pattern,这样我们看这张图片内容就知道它负责的detect是什么。