机器学习模型的可解释性

公司产品要求支持模型可解释性，因此对Dataiku和Rapidminer中提供的模型可视化功能进行了初步了解，记录在此。

树/森林模型的可解释性

树/森林模型可以用于分类和回归问题，且模型解释方式是一致的。

树模型

树形结构

• Dataiku中的树模型：

• Rapidminer中的树模型：

变量重要性

 

• Dataiku中的变量重要性：

• Rapidminer中的变量重要性：

         对树模型未提供变量重要性

规则

Rapidminer提供了对树模型的规则展示：

森林模型

• dataiku中的森林模型

• Rapidminer中的森林模型

 

回归模型的可解释性

逻辑回归---系数可视化

dataiku中的系数可视化

Rapidminer中的系数可视化

 

SVM

• dataiku中不支持svm的可视化
• rapidminer中svm的可视化