李宏毅机器学习之Explainable ML
Local Explanation
通过移动灰色方块,来确定哪个部分是最重要的,越趋于蓝色表示越重要。
类似的想法,逐像素修改,查看输出的变化
求梯度的方法具有一定的局限性:
Global Explanation
找一个输入使得yi最大,得到的结果如下左图所示,机器觉得最像每个数字的图像在人看来都是噪声
设计一个R(x),使得x*中白点尽量少,也就是告诉机器什么样的输出更有可能看起来像数字,获得右下图的效果
用GD找到使得yi最大的z,然后通过z得到x,那么我们就说x是机器觉得最像yi的东西
Using a model to explain another
局限性:到底什么叫附近nearby
对DT做限制,以免太深