SHAP 工作原理

目录

Introduction

---

Introduction

SHAP(Shapley Additive Explanations) 是基于博弈论的shapley值， 来衡量各个特征对模型预测值的贡献度。那么什么是shapley值，SHAP又是如何使用它来解释模型的呢？

Shapley Values

Shapley values是Lloyd Shapley提出的，主要是为了解决以下问题：

If we have a coalition C that collaborates to produce a value V:

How much did each individual member contribute to the final value?

Shapley Values就是衡量联盟中每个成员对整体收益的贡献值的方法。

Lloyd获得过诺贝尔经济学奖，是博弈论领域当之无愧的无冕之王。

由于联盟中成员之间会相互影响，导致成员们在不同的组合中贡献值会不一样。

比如：

那么如何计算每个成员的shapley value呢？

How to calculate shapley value

我们以member 1 为例。

组合合作的收益， 与组合的合作收益 的差值，就是member 1对组合的边际贡献

member 1 的shapley value是它在所有可能的组合中的边际贡献的平均值。那么我们接下来可以把所有组合的边际贡献以同样的方式计算出来。

最后一步，就是计算边际贡献的平均值，得到member 1 的shapley value：