Explainable AI
文章平均质量分 96
机器学习可解释性
Drawing1998
The best is yet to come.
展开
-
【读论文】A Unified Approach to Interpreting Model Predictions
文章中提出了一个解释预测的统一框架SHAP(SHapley Addictive exPlanations),SHAP为每个特征指定一个特定预测的重要值。引入了将模型预测的任何解释视为模型本身的观点,我们称之为解释模型。这让我们可以定义加性特征归因方法的类,它统一了目前的六种方法。并提出将SHAP值作为各种方法近似的特征重要性的统一度量。原创 2022-09-16 14:11:48 · 1636 阅读 · 0 评论 -
可解释人工智能——输入单元重要性归因
输入单元重要性归因,即计算输入中各个单元的重要性(Importance)。重要性能够反映该输入单元对于神经网络的影响大小,重要性越高,表明影响越大。为输入单元的重要性进行量化和分析,能够帮助人们理解是哪些输入变量促使神经网络得到了当前的结果,从而对神经网络的特征建模有一个初步的认识。这里介绍包括SHAP算法、LIME算法、导向反向传播算法、积分梯度算法、逐层相关性传播算法等。......原创 2022-08-31 12:57:33 · 1694 阅读 · 1 评论 -
可解释人工智能——特征可视化
最大激活响应可视化、网络解剖与特征语义分析、基于反向传播的输入重建可视化、GAM/Grad-CAM原创 2022-08-29 15:39:26 · 3055 阅读 · 0 评论 -
【读论文】Visualizing and Understanding Convolutional Networks
在本篇文章中作者引入了一种新的可视化技术,该可视化技术可以揭示在模型的任何一层激发个体特征图的输入刺激,允许我们在模型训练期间观察特征的演变,用来深入了解中间特征层的功能和分类器的操作。这些可视化使我们能够找到比Krizhevsky等人在ImageNet分类基准测试中表现更好的模型架构。...原创 2022-08-29 11:45:56 · 862 阅读 · 0 评论