模型可解释性之PDP和ALE

PDP：

什么是PDP

对于一个机器学习模型来说，PDP的值表示模型的输出与其中一个feature值的关系，这个feature可以是一个class的值也可以是一个数字的值。“整个模型输出的值关于其中一个feature xs的变化”

PDP 公式

计算方法类似于integration，即横轴是xs的值，Xc表示除了xs之外的所有维度的集合。
当Xs值确定时，关于Xc中每一个feature的维度进行求积分，最后进行相加成为一个数，xc中每一个维度的积分的上界以及下界均为无穷。

ALE公式

PDP假设每一个feature之间的独立性，但是很多情况下feature之间是相互依赖的。
区别在于加入了条件概率，可以更好的表示出所有feature相互之间的关系。