Double984-CSDN博客

原创 Greybox XAI：为图像分类提供可解释预测的神经符号学习框架

尽管深度神经网络（DNN）具有强大的泛化和预测能力，但其功能却无法详细解释其行为。不透明的深度学习模型越来越多地被用于在关键环境中做出重要预测，其危险性在于它们做出和使用的预测无法证明其合理性或合法性。目前已经出现了几种将解释与机器学习模型分离开来的可解释人工智能（XAI）方法，但这些方法在忠实于模型实际运作和鲁棒性方面存在缺陷。因此，人们普遍认为，必须赋予深度学习模型解释能力，使其本身能够回答为什么会做出特定预测。首先，我们通过形式化什么是解释来解决 XAI 缺乏通用标准的问题。

2023-11-03 14:10:04 169

原创《Deep Inside Convolutional Networks: Visualising Image Classification Models and Saliency Maps》文献阅读

本文讨论了使用深度卷积网络（ConvNets）学习的图像分类模型的可视化。我们考虑两种可视化技术，基于计算相对于输入图像的类分数的梯度。第一个生成一个图像，它最大化类得分[5]，从而可视化由ConvNet捕获的类的概念。第二种技术计算特定于给定图像和类的类显著性图。我们表明，这样的地图可以用于弱监督对象分割使用分类ConvNets。最后，我们建立了基于梯度的ConvNet可视化方法与去卷积网络之间的联系[13]。

2023-07-12 13:55:28 190 1

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

原创 Greybox XAI：为图像分类提供可解释预测的神经符号学习框架

原创 《Deep Inside Convolutional Networks: Visualising Image Classification Models and Saliency Maps》文献阅读

空空如也

空空如也

原创《Deep Inside Convolutional Networks: Visualising Image Classification Models and Saliency Maps》文献阅读