机器学习可解释性(一)

机器学习可解释性(一)
机器学习可解释性(二) 之 可解释模型
机器学习可解释性(三) 之模型无关方法
机器学习可解释性(四) 之 shap

Kaggle Notebook GM 排名第二的 Dan Becker 在他的推送 What 70% of Data Science Learners Do Wrong 中特意提到了一点：

Learn how to interpret model output. For example, you need to understand measures of model accuracy to know if you can trust a model. Learn machine learning explainability techniques, like permutation importance.

这位大佬目前在kaggle上开源了180+个专家级别的notebook。那么受到这么重量级人物推荐的 模型可解释性 到底是何方神圣，我们就来一探究竟。

what: 什么是可解释性（interpretability)

可解释性是以一种人类可理解的方式将特征值与模型预测联系起来，使人们能够认可模型预测结果。通俗一点说，