机器学习可解释性
文章平均质量分 94
HMoS
这个作者很懒,什么都没留下…
展开
-
机器学习可解释性(三)——影响函数(Influence function)推导
影响函数是一个应用广泛的统计学习概念,可以用来衡量样本对模型参数的影响程度,也就是样本的重要性。可以被用于提供模型的解释,实现机器学习算法的可解释性。本文主要从影响函数的用途出发,介绍影响函数的计算方法和推导过程。原创 2022-09-06 15:29:33 · 6164 阅读 · 13 评论 -
机器学习可解释性(二) —— 类激活映射(CAM)
类激活映射(Class Activation Mapping,CAM)方法作为一类显著图算法的“开山之作”,其思想影响了后续诸多方法的产生。本文将在CAM的基础上,介绍的GradCAM, GradCAM++, LayerCAM的实现原理及相关实验。原创 2022-06-25 23:52:31 · 4381 阅读 · 6 评论 -
VAE变分自编码器
Variational Autoencoder(VAE)作为一类深度生成模型,是由 Kingma 等人于 2014 年提出的基于变分贝叶斯(Variational Bayes,VB)推断的生成式网络结构。与传统的自编码器通过数值的方式描述潜在空间不同,它以概率的方式描述对潜在空间的观察,在数据生成方面表现出了巨大的应用价值。是无监督学习领域的重要研究课题。原创 2022-01-16 16:19:19 · 634 阅读 · 0 评论 -
机器学习可解释性(一) —— 累积局部效应图(ALE)
一、序言深度学习的“黑盒”特性如今越来越让计算机工作者困扰,因此模型的可解释性问题在近些年越来越受到人们的关注。作为该领域的萌新,我开始一点点学习相关领域的内容,参考的书籍是:《Interpretable Machine Learning》。书中从最基本的可解释性算法讲起,再到基于深度神经网络的可解释性算法。随着对本书学习的深入,我也将更新关于书籍的更多内容的学习记录。二、算法介绍2.1 算法背景累积局部效应 (Accumulated Local Effects Plot) 描述了特征平均如何影响机原创 2021-08-28 19:22:36 · 9030 阅读 · 12 评论