Shapley Explanation Networks

作者：18届 cyl

日期：2021-08-15

论文：《Shapley Explanation

Networks》

期刊：ICLR

一、前提知识：Shapley Value

Shapley Value起源于博弈论，n人合作，共创造了v(N)的价值，如何评估每个人的价值？通过计算每个
人的Shapley value。
公式：


特点：

1. 可以评估一组特征的重要性
2. 计算复杂的是指数级别
3. 可以进行线性变换，对一个函数求了shapley值，如果函数再进行线性变换，可以通过对原
   shapley值进行线性变换求新的shapley值。

二、背景

神经网络的可解释性是待解决的重要问题，其中了解每个特征的重要性是提高可解释性的一个方向。
在博弈论中提出的Shapley值是评估组成元素重要性的一个方法，并且shapley值已经被应用到了机器学
习领域，但是存在两个问题：
（1）由于Shapley值计算方法本身的特点，它的时间复杂度是指数级别的；
（2）目前的分析方法都是“事后”的，即模型已经构建完成了，对模型计算shapley值，这样一来消耗时
间，二来得到的shapley值只是用来分析，没有修改模型本身。
目标
1）通过近似方法降低时间复杂度
2）使用Shapley值指导正则化、剪枝，修改模型

三、Shapley Explanation Networks