谈谈机器学习模型的可解释性

随着AI和机器学习的发展，越来越多的决策会交给自动化的机器学习算法来做。但是当我们把一些非常重要的决定交给机器的时候，我们真的放心么？当波音飞机忽略驾驶员的指令，决定义无反顾的冲向大地；当银行系统莫名其妙否决你的贷款申请的时候；当自动化敌我识别武器系统决定向无辜平民开火的时候；人类的内心应该是一万个草泥马飞过，大声的质问，“为什么？”

机器学习算法可以看成是如上图所示的黑盒子模型，训练数据流入黑盒子，训练出一个函数（这个函数也可以称之为模型），输入新的数据到该函数得出预测结果。关于模型的可解释性，就是要回答为什么的问题，如何解释该函数，它是如何预测的？

可解释的模型

在机器学习的众多算法中，有的模型很难解释，例如深度神经网络。深度神经网络可以拟合高度复杂的数据，拥有海量的参数，但是如何解释这些非常困难。但是还是有相当一部分算法是可以比较容易的解释的。

例如线性回归：