可解释的机器学习（一）：可解释性

可解释的机器学习（一）：可解释性

机器学习是基于数据做出和改进预测或行为的一套方法。

方法：数据采集-将这新信息输入机器学习算法-将新数据输入模型。

黑盒模型是一个不揭示其内部机制的系统。在机器学习中，“黑盒模型”或称“黑匣子”描述了通过查看参数（例如深度神经网络的参数）却无法理解的模型。黑盒的对立面有时被称为白盒，即为可解释模型。模型无关的解释方法将机器学习模型是为黑盒。

可解释的机器学习是指机器学习系统的行为和预测对人类可理解的方法和模型。

可解释性

可解释性是人们能够理解决策原因的程度。或是指人们能够一致地预测模型结果的程度。

Interpretable/Explainable

可解释性的重要性

了解“为什么”可以帮助我们更多地了解问题、数据以及模型可能失败的原因。对可解释性的需求来自问题形式化的不完整性。对于某些问题或任务，仅仅获得预测结果是不够的。该模型还必须解释是如何获得这样的预测的。

1. 推动可解释性和解释的需求有以下原因：

• 人类的好奇心和学习能力。
• 人类渴望找到事物存在的意义，机器的决策对人的生活影响越大，机器对它行为的解释就越为重要。
• 科学的目标是获取知识。可解释性可以提取模型捕获的额外知识。
• 机器学习模型承担需要安全措施和测试的实际任务。
• 可解释性是机器学习模型中一种有效检测偏见的调试工具。
• 将机器和算法整合到日常生活中的过程需要可解释性，以增加社会认可度。解释是一个社会化过程。
• 解释用于管理社交互动。通过创造某