Cite: Koh P W, Liang P. Understanding black-box predictions via influence functions[J]. arXiv preprint arXiv:1703.04730, 2017.
链接:https://arxiv.org/pdf/1703.04730
GitHub项目地址:http://bit.ly/gt-influence
本文使用影响函数(Influence functions)这种工具来研究模型训练样本对模型预测结果的影响,并由此对黑盒模型的预测结果进行解释。
Influence functions由Cook以及Weisberg在鲁棒统计(statistics)中引入,它研究了estimator随着其输入分布变化而变化的方式。在模型训练过程中,假设修改一个训练样本的权重后,新的参数变为