李宏毅机器学习17—Explainable ML（第四周）

Explainable machine learning 可解释的机器学习

 

摘要：

这节课学习可解释的机器学习，机器学习之所以需要解释，主要是为了使用者的需求，而不是为了完全理解model是如何工作的。

首先将Explainable machine learning分成两类：Local Explainable和Global Explainable。

Local Explainable可以通过遮挡法和梯度计算，画显著图的方法实现。

Global Explainable是通过cnn那节课讲的机器眼中的数字样子进行分析。

之后学习了用线性模型局部模拟，去解释另一个模型的做法，运用lime，以及lime的实际操作

最后学习了在保证决策树模型尽可能简单的前提下，让决策树模型去解释另一个模型的设计思路。

 

目录

一、Explainable machine learning的分类：

二、先来说说为什么需要Explainable ML

三、Local Explainable 

1.基本精神：

2.实现想法：

3.具体做法：

4.这种方法会出现问题：

5.使用Explainable技术时要注意有被攻击的风险

四、Global Explainable

五、利用图像生成器进行正则化（通过GAN，VAE）

六、使用线性模型去解释另一个模型