知识共享 一：机器学习的可解释性

机器学习的Interpretability，或者是可解释的机器学习。

模型在预测的时候，我们无法去判断模型进行预测的根据。这就说明了我们对于模型的要求在某一些领域达不到百分之百的信任，比如模型帮你做手术或者进行诊断。以及真正做到无人驾驶。

有一些的翻译将可解释性翻译成explainability，有的也翻译成interpretability。但是其实两者有一定的差距，后者往往是指，使得模型成为白盒，能够很清楚的进行理解。前者的意义在于，能够让人们比较好的理解模型的黑盒行为。

但是其实可解释性也不是让人能够理解每一个神经元的具体工作过程，以及不需要理解每一次的运算。

可解释性的意义？

最简单的意义就是，模型性能不佳怎么办？继续炼丹吗？还是改一下模型架构？或者是随便更换数据集？其实效果不佳应该寻找根本原因！对于根本原因的寻找其实就是可解释性的意义。

 Q是作为一个解释性的评价方程，E是 能够实现可解释性的具体方法。我们的主要目的就是寻求一个比较合理的解释方法：给定数据，能过够针对于特定的任务经过有特定的人群进行的对特定模型的最大的程度的理解。