可解释性机器学习

talentsta

已于 2023-08-23 21:47:16 修改

阅读量960

点赞数 2

文章标签：机器学习人工智能

于 2023-08-23 21:46:10 首次发布

本文链接：https://blog.csdn.net/weixin_71458119/article/details/132460672

版权

可解释性机器学习的定义

可解释性机器学习是通过解释模型的决策过程和预测结果，使人们能够理解模型如何进行预测并做出信任和合理决策的过程，它强调对模型的透明度和理解能力，有助于提高模型的可靠性和实际应用性，可解释性机器学习的价值在于增加了对算法决策的可控性和解释性，能够帮助我们发现模型中的潜在问题，并避免不必要的错误和误解。

可解释性机器学习的优点、挑战及应用场景

优点:

帮助用户理解模型预测的依据,增加用户对模型的信任度。
有利于发现模型可能存在的偏差或错误,更容易进行模型诊断和修复。
可以在当前解释技术不够成熟时,提高模型透明度和可控性。
有利于满足法规和法律对算法公平性、无偏性的要求。

主要挑战:

解释性和预测性能难以兼得,解释性往往会影响模型效果。
深层模型内部机制复杂,目前解释技术解释能力有限。
解释结果本身也需要解释,高层次的解释难度更大。

主要应用场景:

医疗诊断、法律、公共安全等人命相关领域。
需要满足法律法规要求的领域,如信用评分。
对社会影响力大的机器学习系统。
当用户需要理解模型决策过程时。

用于预测患者肺癌的具体代码实现

import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.ensemble import RandomForestClassifier

#加载数据
data = pd.read_csv('lung_cancer_data.csv') 

#分割特征和目标变量
X = data[['age','smoking_years','COPD']]
y = data['lung_cancer']

#拆分训练集测试集
X_train, X_test, y_train, y_test = train_test_split(X, y) 

#训练随机森林分类器 
clf = RandomForestClassifier().fit(X_train, y_train)

#预测
y_pred = clf.predict(X_test)

#评估精度
from sklearn.metrics import accuracy_score
print('Accuracy: ', accuracy_score(y_test, y_pred))

#使用SHAP解释器解释模型预测
import shap
shap_values = shap.TreeExplainer(clf).shap_values(X)
shap.summary_plot(shap_values, X)

该代码加载肺癌数据集,使用随机森林分类器训练模型,并预测测试集标签。最后使用SHAP解释器解释模型预测的依据,如哪些特征对预测影响较大，此外也可以添加其他指标评估模型质量。

本案例中使用的shap解释器

SHAP基于 shapely 值理论,它源于博弈论,用于衡量个体特征对模型预测结果的贡献。
对于每一个样本,SHAP通过计算该样本所有可能子集中,特征存在与不存在时模型输出的差异。
这些边际贡献根据公式计算出代表该特征对该实例预测结果贡献的shapley值。
由于shapley值具有加性性质,可以计算出每一个特征在该实例中的绝对影响程度。
SHAP解释器会对每一次预测计算所有特征的shapley值。
这些shapley值既可以用来解释单个预测,也可以汇总 stationed 的 shapley值对所有样本进行可视化。
例如平均按特征 shapley值排序可以看出影响程度最大的特征。
SHAP值也可以利用依赖图等方式展示特征间相互影响。

这里举一个简单的例子来说明SHAP解释器工作原理:

假设我们有一个分类模型,输入有3个特征A,B,C,输出一个标签0或1。

现在有一个样本,其特征值为:

A = 1
B = 0
C = 1

模型给出的预测标签是1。

SHAP解释器会计算:

当只有A时,模型预测值。
当只有B时,模型预测值。
当只有C时,模型预测值。
当A,B共存时,模型预测值。
当A,C共存时,模型预测值。
当B,C共存时,模型预测值。
当A,B,C全存在时,模型预测值。

它通过对比不同子集中模型输出的差异,来计算每个特征的边际效应。

然后根据shapley值公式,得到每个特征A,B,C对预测结果的独立贡献,也就是它们的SHAP值。

通过这样的分析,我们就可以看到每个特征对预测结果的影响程度,这就是SHAP解释器工作的基本套路。

SHAP解释器计算每个特征的边际效应是基于下面这个思路:

对于样本X上的模型预测f(X),它有m个特征。

对于每个特征xi, SHAP会考虑该特征在所有可能的子集S中的取值:

当xi在S中时,模型输出为f(X|S)
当xi不在S中时,模型输出为f(X|-xi)

那么这个特征xi在子集S中的边际效应 défined 为:

边际效应 = f(X|S) - f(X|-xi)

也就是说,这个特征加入或去除子集S时,模型输出的变化。

SHAP会计算样本X上每个可能的子集S,然后对每个特征xi统计他在所有子集S中的边际效应。

最后根据shapley值的定义,通过加权平均计算出特征xi对整体模型输出f(X)的贡献大小。

这个贡献量就是我们常说的这个特征的SHAP值,就代表了它对预测结果的独立影响程度。

所以通过不断采样不同子集,SHAP可以详细解剖每个特征的边际影响,从而给出它们对结果的解释。

机器学习判断法律案件胜诉可能性

import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.ensemble import RandomForestClassifier

#加载法律案件数据集
data = pd.read_csv('legal_cases.csv') 

#分割特征和目标变量    
X = data[['case_facts','law_articles']]
y = data['win_or_lose']

#拆分训练集测试集
X_train, X_test, y_train, y_test = train_test_split(X, y)

#训练随机森林分类器
clf = RandomForestClassifier().fit(X_train, y_train)

#预测测试集
y_pred = clf.predict(X_test)

#模型评估
from sklearn.metrics import classification_report
print(classification_report(y_test, y_pred))

#使用LIME解释单个案例预测原因    
from lime import lime_text
exp = lime_text.LimeTextExplainer(class_names=['lose','win'])
exp.explain_instance(X_test.values[0], clf.predict_proba)

该代码加载法律案件数据,训练RF分类模型预测胜诉可能性,并使用LIME解释单例预测依据,可以辅助法律工作。