机器学习解释（1）DALEX包，instance-level

翻译整理

机器学习解释分为两个level，instance-level（局部）和dataset-level（全局）

实例水平的解释，帮助我们理解模型是如何为一个特定观测点生成预测值的，比如：

1、评估解释变量对模型预测的影响；

2、了解如果某些解释变量的值发生变化，模型的预测将如何变化；

3、我们可能会发现模型提供了不正确的预测，我们可能想找到原因。

实例水平的解释最流行的方法分为三类：

1、一种方法是分析模型对特定实例的预测与平均预测有何不同，以及如何在解释变量之间分配差异？这种方法通常被称为“变量归因”方法。对应图 A

2、另一种方法是将模型解释为一个函数，并研究该函数围绕感兴趣的点（观测值）x∗的局部行为。特别是，我们分析了模型响应（预测）曲面围绕 x∗ 的曲率。对于黑盒模型，我们可以用更简单的玻璃盒模型来近似它，大约在 x∗ 。对应图 B

3、另一种方法是研究如果单个解释变量的值发生变化，模型的预测会如何变化？该方法在所谓的“假设”分析中很有用。特别是，我们可以构建由单个解释变量的变化引起的基于模型的预测变化的图。这种图通常称为 ceteris-paribus （CP） 剖面。对应图 C