模型可解释方法-（1）工具调研

内容仅供参考：有表述不当请指出。

工具		优点	缺点	语言	版权	介绍	链接
interpretml	2019	全面，集成度高，可视化	可视化需要用jupter的html接口，需外网环境，EA平台不支持	Python/C++	微软	interpret明箱  interpret黑箱 dice-ml反事实实例	https://github.com/interpretml
ELI5		较全面，可视化		Python	MIT	用于机器学习分类器调试和预测结果解释(可视化)的库	https://github.com/TeamHG-Memex/eli5
h2o.ai/mli		较全面，可视化		python	Google		https://github.com/h2oai/mli-resources
h2o.ai/使用						H2o使用示例	https://github.com/jphall663/interpretable_machine_learning_with_python
Skater				Python	oracle	预测模型不确定性解释库	https://github.com/oracle/Skater
SeldonIO/alibi				python	alibaba	机器学习模型监控/解释算法库	https://github.com/SeldonIO/alibi https://github.com/SeldonIO
Explanation Explorer等				Python/javascript	NYU Visualization Lab	用于解释机器学习模型的用户图形界面	https://github.com/nyuvis
AIX360				python	IBM	数据/机器学习模型可解释性工具包	https://github.com/Trusted-AI/AIX360
yellowbrick LIME ELI5 MLxtend(https://github.com/rasbt/mlxtend)				python		可解释性及其学习python库介绍（4个）	https://towardsdatascience.com/python-libraries-for-interpretable-machine-learning-c476a08ed2c7
tf-explain						Interpretability for TensorFlow 2.0	https://github.com/sicara/tf-explain
shap					Scott Lundberg	SHAP工具包	https://github.com/slundberg/shap
explainx					MIT		https://github.com/explainX
xai							https://github.com/EthicalML/xai
sklearn_explain							https://github.com/antoinecarme/sklearn_explain
innvestigate						神经网络	https://github.com/albermax/innvestigate
LRP_for_LSTM						可视化LSTM	https://github.com/ArrasL/LRP_for_LSTM