Explainable machine learning

最新推荐文章于 2022-09-21 18:54:42 发布
最新推荐文章于 2022-09-21 18:54:42 发布
阅读量403 收藏
点赞数
分类专栏： Transfer learning
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_30776035/article/details/99965355
版权

Explainable machine learning


可解释性和网络能力一般难两全

Local Explanation

为什么你认为这个图片属于类别y?

  • Remove-based
    将部分移除，如果对结果影响大那么说明该部分重要（移除部分大小？）

  • Gradient-based
    y t r u e y_{true} ytrue​对输入做微分，值比较大的像素点重要

  • Model-based
    使用一个简单网络来模拟另一个网络的一部分

    • Linear(LIME)

    在这里插入图片描述

    • Decision Tree

  • 有针对explanation的攻击，输入差不多，输出相同，解释差别较大。

Global Explanation

反向对x做opt,使得 y t r u e y_{true} ytrue​最大 + 约束x属于输入域
可使用 Generator 做约束
在这里插入图片描述

在这里插入图片描述

tsstaitixu
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
人工智能-机器学习：机器学习的可解释性（Explainable Machine Learning）
u013250861的博客
12-18 2558
什么是机器学习的可解释性？ - 可解释性(explainability)有大量的近义词，比如可理解 (understandable), 可诠释 (interpretable), 透明(transparent), 可靠 (robust), 公平 (fair), 明确(explicit)，忠实(faithful), 负责(responsible)。这些词与可解释性 (explainable) 之间到底存在什么样的关系? - 最近有篇来自以色列的19页长文 [Explainability in Human-Age
李宏毅机器学习-explainable machine learning（机器学习的可解释性）及代码
iwill323的博客
10-30 830
explainable machine learning（机器学习的可解释性） Local Explanation Global Explanation
深度学习(十二) Explainable ML
AliForever2020的博客
09-01 763
本文根据李宏毅的可解释性ML而写成的文章。
机器学习-25-Explainable ML(可解释机器学习)
迷雾总会解
12-19 604
所谓的可解释性其实也分为两种，一种是局部可解释性，一般指的是机器说明如何判断这个样例(例如分类问题中，机器如何将一张猫的图片分成猫)；另一种是全局可解释性，一般指的是机器如何对总体进行特征判断(例如分类问题中，机器认为猫长什么样子) 为什么我们需要这种可解释性呢？神经网络一般都是黑盒算法这确实，但并不是黑盒本身让我们难受，因为我们人的大脑也是个黑盒；而是如果我们没有一定的解释的话，我们可能会不爽。就例如一个神经网络来计算成绩，如果你分低还不知道为什么，那绝对会不爽，而如果机器能够解释每道题扣了多少分这种等
【机器学习】李宏毅——Explainable ML(可解释性的机器学习)
FavoriteStar的博客
09-21 1216
本文介绍了Explainable ML(可解释性的机器学习)的相关内容，抱愧这项技术的相关概述、当前发展等等。
李宏毅机器学习课程梳理【十三】：Explainable Machine Learning
-Belladonna的博客
08-22 372
Explainable ML分为两大类，一类是Local Explanation，另一类是Global Explanation。以猫图像识别为例，Local Explanation解释为什么它认为这张图是一只猫，Global Explanation解释它认为猫是什么样子的。 Local Explanation基本思想：将输入Object x分解成若干Components：{x1,⋅⋅⋅,xn,⋅⋅⋅,xN}\{x_1,\cdot\cdot\cdot,x_n,\cdot\cdot\cdot,x_N\}{x1​
Visual Knowledge Discovery and Machine Learning 无水印原版pdf
02-24
Visual Knowledge Discovery and Machine Learning 英文无水印原版pdf pdf所有页面使用FoxitReader、PDF-XChangeViewer、SumatraPDF和Firefox测试都可以打开 本资源转载自网络，如有侵权，请联系上传者或csdn...
Visual Knowledge Discovery and Machine Learning epub
02-24
Visual Knowledge Discovery and Machine Learning 英文epub 本资源转载自网络，如有侵权，请联系上传者或csdn删除 查看此书详细信息请在美国亚马逊官网搜索此书
Machine-Learning-in-Survival-Analysis:生存分析中机器学习方法的仿真研究
04-10
生存分析中机器学习方法的仿真研究 在Weibull分布下或具有复杂基线风险（转折点）的情况下模拟生存时间，其中协变量对风险的线性或线性和非线性影响以及审查水平的变化。 将模拟数据集分为训练和测试数据集。...
Explainable Machine Learning
连理o的博客
09-19 180
本文为李宏毅 2021 ML 课程的笔记 目录Explainable AI: Why Does the Model Make This PredictionWhy we need Explainable ML?Interpretable v.s. PowerfulGoal of Explainable MLExplainable MLLocal Explanation: Explain the DecisionWhich component is critical for making decision.
深度学习（十三）explainable ML
qq_43533956的博客
05-17 219
李宏毅老师课程链接 深度学习的网络往往是一个黑盒子，就是说我们并不知道里面发生了什么，怎么发生的，只知道结果如何。 所以我们要想一些办法来了解深度学习的网络究竟是怎么运作的。 在计算机视觉的领域，这似乎是比较直觉且容易做到的。比如图像识别，我们就可以通过某种办法改变图像的某些部分，然后观察其结果。 比如说我们在图像上遮盖一个灰色方块，观察它是否会对图像辨识的结果产生影响，如下图，红色区域代表遮盖无影响，蓝色区域代表遮盖影响很大。 这样一来，我们就知道了机器确实是从图中狗的部分识别出了狗，而不是把图中的人脸认
Explainable
Assassintt的专栏
09-09 871
Explainable/Interpretable ML 两种类型 Local Explanation Why do you think this image is a cat? Global Explanation What do you think a “cat” looks like? Point of Explainable ML 解释Ml的目的并不是完全的知道Ml model 的工...
ML 模型不等于“黑盒”：explainable AI 可解释的人工智能
deephub
04-25 5679
可解释的人工智能（explainable AI） 是机器学习领域热门话题之一。 机器学习模型通常被认为是“黑盒”，具有内部不可知的特性。因此这些模型在应用时，往往需要首先获取人们的信任、明确其误差的具体含义、明确其预测的可靠性。 本文中，我们将探讨 explainable AI 的内涵及其重要性，并且提供了几个案例以帮助理解。 可解释人工智能的含义 现阶段机器学习的工作流程（从训练到工业...
6——Attack ML Models
weixin_41937876的博客
08-02 557
6——Attack ML Models 今天主要学完了Attack ML Models部分，攻防。 这张图概括的很好 训练时是用固定data去生成Network，Network是会变化的，找到一个较好的Network,而Attack有点类似于测试，固定Network结构，用和trainging data相类似的image去让model判断出错误的结果，越离谱越好。 所以我们可以反其道而行之，计算...
2020李宏毅学习笔记——21.Explainable ML(1_8)
weixin_44554337的博客
06-22 436
1.概论：Explainable ML 1.1 是个啥 Explainable ML主要就是告诉你，为什么会这样。 主要分为两种： ①local explanation:why does the NN think this image is a cat? ②global explanation:what does the NN think a cat look like? 1.2 为什么有Explainable ML 我们在用机器判断履历的时候，你得知道它是根据什么判断的，是具体能录呢还是性别。而且模型
2021年最新-可解释机器学习相关研究最新论文、书籍、博客、资源
lqfarmer的博客
02-08 1104
理解（interpret）表示用可被认知（understandable）的说法去解释（explain）或呈现（present）。在机器学习的场景中，可解释性（interpretability）就表示模型能够使用人类可认知的说法进行解释和呈现。[Finale Doshi-Velez] 机器学习模型被许多人称为“黑盒”。这意味着虽然我们可以从中获得准确的预测，但我们无法清楚地解释或识别这些预测背后的逻辑。但是我们如何从模型中提取重要的见解呢？要记住哪些事项以及我们需要实现哪些功能或工具？这些是...
李宏毅ML+DL学习记录：explainable ML
weixin_41391619的博客
02-29 323
       explainable ML 主要是用来告诉你NN为什么会给出这样的结果，可分为两种：        ①.local explanation:why does the NN think this image is a cat?        ②.global exp...
robust and explainable autoencoder
最新发布
08-19
Robust and explainable autoencoders是一种用于无监督时间序列异常检测的方法，其具有鲁棒性和可解释性。根据引用的ICDE 2022论文，这种方法采用了一种鲁棒的深度自编码器技术，可以有效地识别时间序列数据中的异常...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值