使用SHAP解释神经网络回归预测模型，‘DeepExplainer‘ object has no attribute ‘masker‘，

lllllolink

已于 2023-11-17 10:42:36 修改

阅读量5.8k

点赞数 3

文章标签：神经网络回归人工智能 pycharm

于 2023-11-17 10:40:47 首次发布

本文链接：https://blog.csdn.net/lllllolink/article/details/134456445

版权

本文介绍了如何在PyTorch搭建的神经网络中使用SHAP进行模型解释，强调了DeepExplainer在神经网络模型中的独特用法以及shap_values和expected_value的概念。作者还展示了如何生成整体shap图和bar_plot以可视化解释结果。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

#使用SHAP进行神经网络模型的解释与其他回归模型(例如SVR，RF)调用有些不同，在此记录。详细学习SHAP可以访问SHAP官网#

SHAP安装

本人是在pycharm下使用SHAP，直接在终端进行pip安装就可以。pip install shap

使用SHAP进行神经网络模型解释

本人使用pytorch搭建的神经网络，假设训练好的模型为net，训练数据输入值为X，标签为target。

使用SHAP最终目的就是为了计算shap_values与基准值，首先要定义一解释器，神经网络要使用DeepExplainer解释器。定义好解释器后通过explainer.shap_values就可以得到每个变量的shap_values值。对于基准值可以使用explainer.expected_value获得。

解释神经网络预测模型就是这点与其他预测的不同，别的回归可以直接explainer(X)得到一个包含shap_values与expected_value的对象。而神经网络只能通过explainer.shap_values(X)获得一个narrary值。

通过下面代码可以输出整体shap图

import shap
explainer = shap.DeepExplainer(net, X)
shap_values = explainer.shap_values(X)
feature_names=['T','l','a','aT'] 
shap.summary_plot(shap_values, X,feature_names=feature_names)

shap_values与expected_value的意义

$g(x')=E_{X}(\hat{f}\left(X\right))+\sum_{j=1}^M\phi_j$

其中 $E_{X}(\hat{f}\left(X\right))$ 为explainer.expected_value，shap_values为 $\phi_j$

所以sum(shap_values[0])+explainer.expected_value与net(X[0])的数值相同

解释神经网络可以绘制哪些图

shap.bar_plot(shap_values=shap_values[1])