人工智能-机器学习：机器学习的可解释性（Explainable Machine Learning）

什么是机器学习的可解释性？

• 可解释性(explainability)有大量的近义词，比如可理解 (understandable), 可诠释 (interpretable), 透明(transparent), 可靠 (robust), 公平 (fair), 明确(explicit)，忠实(faithful), 负责(responsible)。这些词与可解释性 (explainable) 之间到底存在什么样的关系?
• 最近有篇来自以色列的19页长文 Explainability in Human-Agent Systems，专门探讨可解释性的定义，以及与这些相似概念之间的联系与区别。
• 文章提出五个根本问题 – Why, 为何需要解释。Who, 由谁向何人解释。What，解释什么。When，何时解释。How，如何解释。

一、Why 为何解释？

这个领域最重要的问题是：为什么机器学习需要可解释性？为了回答这个问题，必须知道一个机器学习系统究竟多需要可解释性。如果将此需求分为三层，大概可以这样分：

1. 没什么用，不需要
2. 用则有益，不用无损
3. 不用不行，至关重要

1、可解释性不重要的场景

• 如果一个系统完全由人工控制，操作员知道他做的任何一个操作能带来怎样后果，则机器只是人这个概念的延伸，此时并不需要可解释性。
• 对于自我控制的机器，如果其决策理由非常显然，比如基于协同过滤算法的推荐系统，利用某兴趣相投、拥有共同经验之群体的喜好来推荐