内容仅供参考:有表述不当请指出。
工具 |
| 优点 | 缺点 | 语言 | 版权 | 介绍 | 链接 |
interpretml | 2019 | 全面,集成度高,可视化 | 可视化需要用jupter的html接口,需外网环境,EA平台不支持 | Python/C++ | 微软 | interpret明箱 interpret黑箱 dice-ml反事实实例 | https://github.com/interpretml
|
ELI5
|
| 较全面,可视化 |
| Python | MIT | 用于机器学习分类器调试和预测结果解释(可视化)的库 | |
h2o.ai/mli |
| 较全面,可视化 |
| python | |
| |
h2o.ai/使用 |
|
|
|
|
| H2o使用示例 | https://github.com/jphall663/interpretable_machine_learning_with_python |
Skater |
|
|
| Python | oracle | 预测模型不确定性解释库
| |
SeldonIO/alibi |
|
|
| python | alibaba | 机器学习模型监控/解释算法库
| |
Explanation Explorer等 |
|
|
| Python/javascript | NYU Visualization Lab | 用于解释机器学习模型的用户图形界面 | |
AIX360 |
|
|
| python | IBM | 数据/机器学习模型可解释性工具包 | |
|
|
| python |
| 可解释性及其学习python库介绍(4个) | https://towardsdatascience.com/python-libraries-for-interpretable-machine-learning-c476a08ed2c7 | |
tf-explain |
|
|
|
|
| Interpretability for TensorFlow 2.0 | |
shap |
|
|
|
| Scott Lundberg | SHAP工具包 | |
explainx |
|
|
|
| MIT |
| |
xai |
|
|
|
|
|
| |
sklearn_explain |
|
|
|
|
|
| |
innvestigate |
|
|
|
|
| 神经网络 | |
LRP_for_LSTM |
|
|
|
|
| 可视化LSTM |