博弈论&夏普利值！提高机器学习可解释性的新方法！

全文共7141字，预计学习时长21分钟

图源：Unsplash

从“约翰•纳什”到“板球世界杯”

 

还记得《美丽心灵》的男主（也是现实生活中传奇的一代数学家和经济学家）约翰•纳什吗？饱受精神分裂的酷刑，在他处于梦境一般的精神状态时，他的名字开始出现在70年代和80年代的经济学课本、进化生物学论文、政治学专著和数学期刊的各领域中。他的名字已经成为经济学或数学的一个名词。

 

如“纳什均衡”、“纳什谈判解”、“纳什程序”、“德乔治－纳什结果”、“纳什嵌入”和“纳什破裂”等。

 

与妻子一起数十年不断与精神梦魇的抗争，最终使他从疯癫中苏醒，与另外两位数学家在非合作博弈的均衡分析理论方面做出了开创性的贡献，对博弈论和经济学产生了重大影响。

 

成为一代传奇数学家和经济学家。

 

时光回到2007年，那是第一次举办T20板球世界杯的时候。

 

全世界都在讨论这个话题，但板球协会却十分谨慎——广告插播的时间从99秒缩减到了39秒。天哪！收入也减少了一大截。

 

然而长远来看，这个决定是最为明智的，2007年的广告插播收入是目前为止板球史上收入最高的。

 

2020年，世界的目光又将聚焦在印度板球团队，队长Virat Kohli将再次因为做关键决策而受到关注，其压力之大，可想而知。

 

图源：Unsplash

 

等等——这和机器学习可解释性，夏普利值（Shapley value），博弈论有什么关系？

 

我们一起来看看：

 

有没有可能建立发明一种能以超高准确率支持所有关键决定的理论？如果能的话，那就太棒了。它能解决所有疑惑，比如说——第一个击球的击球手，选中的投球手，替补选手等等。

 

博弈论可以实现这个想法！下文笔者将探索解读机器学习模型的另一种替代方法，由博弈论衍生而来。笔者还将介绍夏普利值在机器学习可解释性中的运用。

 

本文对博弈论零基础者完全友好，笔者将深入浅出地解释最基本的概念，着重介绍夏普利值，以及它是如何通过运用Python中的SHAP库解读机器学习模型的。

 

概  述

 

•   如何运用博弈论中的夏普利值来提高机器学习可解释性

•   全新视角解释黑盒子机器学习模型

 

目录

 

·       博弈论是什么？

·       合作型博弈论

·       夏普利值：直觉

·       夏普利值在机器学习解释中的应用

·       在Python中使用SHAP的模型解读

·       使用夏普利模型进行全局解读

 

博弈论是什么？

 

在进入本文核心之前，首先要搞清楚博弈论的定义，为之后将博弈论用于处理机器学习模型打好基础。

 

博弈论是指研究多个个体或团队之间在特定条件制约下的对局中利用相关方的策略，而实施对应策略的理论框架。它是研究如何在战略环境下，各个独立又互相竞争的主体如何做出最优决定的。

 

数学家冯∙诺伊曼、约翰∙纳什，经济学家奥斯卡·摩根斯特恩都是博弈论的专家。

 

看到这，读者可能会问——什么是博弈？是国际象棋还是电子游戏？

图源：Unsplash

“博弈”是指有多个个体，每个个体都想将自己的结果最大化的情况。优化决策的过程往往依赖于其他个体的决定。博弈通常包括个体身份，偏好，可用策略，以及这些策略是如何影响结果的。

 

博弈论将这些情况通过数学概念表示出来，再决定如果每个玩家都理性行事，最终结果会是什么样的。

 

·      或许会达到某种平衡（在同一个国家，人们都靠道路的同一侧行驶）

·      这种平衡可能对所有人都不利（人们乱扔垃圾，污染公共资源）

·      所有人都试着使自己的行为变得不可预测（战争中的军队部署）

 

从本质上来讲，博弈论是