终于有人把可解释机器学习讲明白了

导读：为了解决模型的“黑盒”问题，科学家们提出了可解释机器学习。除了预测的精准性之外，可解释性也是机器学习模型是否值得信赖的重要衡量标准。

可解释机器学习（IML）的核心思想在于选择模型时，需要同时考虑模型的预测精度和可解释性，并尽量找到二者之间的最佳平衡，它不像传统黑盒模型仅考虑预测精度这一单项指标（如低MSE或高AUC）；它不仅能给出模型的预测值，还能给出得到该预测值的理由，进而实现模型的安全、透明和公平等特性。

作者：索信达控股 邵平 杨健颖 苏思达 何悦 苏钰

来源：大数据DT（ID：hzdashuju）

在大数据时代，机器学习在提升产品销售、辅助人类决策的过程中能够起到很大的作用，但是计算机通常不会解释它们的预测结果。

我们在使用机器学习模型时，常用的模型性能评价指标有精度、查准率、查全率、ROC曲线、代价曲线等。如果一个机器学习模型表现得很好，我们是否就能信任这个模型而忽视决策的理由呢？答案是否定的。

模型的高性能意味着模型足够智能和“聪明”，但这不足以让我们了解它的运作原理，因此我们需要赋予模型“表达能力”，这样我们才能更加理解和信任模型。除了单一的性能评价之外，模型的评价还应该增加一个维度，以表示模型的“表达能力”，可解释性就是其中一个。

01 可解释性的定义

解释指的是用通俗易懂的语言进行分析阐明或呈现。对于模型来说，可解释性指的是模型能用通俗易懂的语言进行表达，是一种能被人类理解的能力，具体地说就是，能够将模型的预测过程转化成具备逻辑关系的规则的能力。

可解释性通常比较主观，对于不同的人，解释的程度也不一样，很难用统一的指标进行度量。我们的目标是希望机器学习模型能“像人类一样表达，像人类一样思考”，如果模型的解释符合我们的认知和思维方式，能够清晰地表达模型从输入到输出的预测过程，那么我们就会认为模型的可解释性是好的。

在《机器学习的挑战：黑盒模型正面临这3个问题》例举的基金营销小场景中，虽然模型能够判断一个客户有很大的可能性购买低风险、低收益的产品，但是模型不能解释客户倾向于购买低风险、低收益产品的更详细的原因，因此也就无法提出对这个客户来说更有针对性的营销策略，从而导致营销的效果不佳。

具备可解释性的模型在做预测时，除了给出推荐的产品之外，还要能给出推荐