机器学习可解释性的理解 Explainable Machine Learning

算法的可解释性

本文参考南洋理工大学李宏毅教授对数据可解释性的看法。
Model Explaination

1. 为什么要解释算法

在某些场景，我们在使用一些机器学习模型处理数据以得到结果时，往往也会寻求一个解释，也就是数据的结果是从何而来的。

举个例子，医生在使用医疗诊断的模型获得诊断结果时。医生或是病人不可能仅仅依靠得到的结果就决定病情。重要的是，通过结果得到的过程，也就是结果的解释最终确定结果是可以被认可的。

除此之外，还有一个原因：也就是利用算法的解释以提升其在实际场景的表现。

2. Powerful or Interpretable ？

• 我们知道，有些模型是有很强的可解释性的，比如线性模型、决策树等等。但是它们都有一个问题，不够powerful；

• 但是，对于一些比较powerful的模型，比如深度学习的一些网络。但问题是，它的内核是个黑盒子。

那我们是不是为了可解释醒就放弃这些有黑盒子的模型了呢？