[李宏毅-机器学习]解释性机器学习 Explainable ML

最新推荐文章于 2022-10-30 00:07:52 发布
最新推荐文章于 2022-10-30 00:07:52 发布
阅读量526 收藏
点赞数
分类专栏： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/py184473894/article/details/104466928
版权

local explaination

移除图片中的一部分，如果识别结果发现很大变化，则该部分对于识别这个物体很重要

 

计算最后类别的概率那个节点对每个pixel的梯度，梯度大的话就说明该pixel重要

 

global explaination

 

用一个可以被解释的model去解释另一个不可被解释的model

 

炼丹师
关注
专栏目录
机器学习中的可解释性
茶桁专栏
07-09 1231
为什么我们需要了解模型如何进行预测我们是否应该始终信任表现良好的模型？模型可能会拒绝你的抵押贷款申请或诊断你患有癌症。这些决定的后果是严重的，即使它们是正确的，我们也希望得到解释。人类可以告诉你，你的收入太低，无法获得抵押贷款，或者特定的细胞群可能是恶性的。提供类似解释的模型比仅提供预测的模型更有用。通过获得这些解释，我们说我们正在解释一个机器学习模型。在本文的其余部分，我们将更详细地解释可解释性的含义。然后，我们将继续讨论能够解释模型的重要性和好处。然而，仍然存在一些缺点。
李宏毅机器学习2021】机器学习模型的可解释性 (Explainable ML)
SimonChen
07-21 561
explainable 和 Interpretability是有区别的： explainable是指的是一个东西原来是个黑箱，我们想办法赋予其解释的能力，就是explainable， Interpretability，是指的是这个东西本来就不是黑箱，本来就知道其内容，叫做Interpretability。 ...
【李宏毅】机器学习 笔记11（Explainable ML）
Mr_Kingk的博客
08-02 325
Explainable ML：简单来说，就是在机器做learning时，在预测出结果的同时，给出这样预测的理由，解释它学到的东西。 主要分为两类：1、Local Explainable 2、Global Explainable explainable ml可以给我们一些改进model的参考： 李宏毅老师的个人观点： Local explaination: 基本思想：就是通过删除或修改一些组件的值，然后观察变化，来看这些组件对...
李宏毅老师课程：Explainable ML
APythonC的博客
08-21 391
可解释的MLIntroductionWhy we need Explainable ML?Interpretable v.s. PowerfulLocal ExplanationBasic IdeaLimitation of Gradient based ApproachesAttack InterpretationGlobal ExplanationActivation Minimization (review)Constraint from GeneratorUsing a model to expla
【机器学习】李宏毅——Explainable ML(可解释性的机器学习)
FavoriteStar的博客
09-21 1262
本文介绍了Explainable ML(可解释性的机器学习)的相关内容，抱愧这项技术的相关概述、当前发展等等。
[datawhale202210]李宏毅机器学习2021：机器学习模型的可解释性
qq_40990057的博客
10-16 1050
可解释性是不可缺少的，因为我们需要在借助机器学习模型做出决策时了解机器学习模型做出决策的原因。 模型原生的可解释性和模型本身的拟合能力之间存在着一定的矛盾，线性模型可解释性好，但拟合能力差，而神经网络则恰恰相反。兼具强可解释性和强拟合能力的决策树模型，在实际应用当中也会陷入可解释性变差的困境。我们所探讨的可解释性，是试图给黑箱的模型一个原因，来帮助决策。 模型的可解释性分为Local和Global的，一个探讨做出具体决策的原因，另一个探讨做出某一类决策的道理。
李宏毅机器学习笔记——13. Explainable ML（可解释的机器学习）
weixin_44790306的博客
07-13 1402
摘要： 文章目录1. Explainable machine learning的分类2. Why we need Explainable ML?个人观点可解释性和能力的对比3. Local Explanation4. Global Explanation5. 总结与展望 1. Explainable machine learning的分类 机器不仅要告诉我们结果是什么，而且告诉我们判断理由是什么？ Explainable machine learning分为两种： 1.local explanatio
李宏毅机器学习-explainable machine learning（机器学习的可解释性）及代码
iwill323的博客
10-30 901
explainable machine learning（机器学习的可解释性） Local Explanation Global Explanation
2021李宏毅机器学习笔记--11 explainable ML
guoxinxin0605的博客
06-19 396
2021李宏毅机器学习笔记--11 explainable ML摘要一、局部可解释性1.1 基本思想1.2 移除组成要素1.3 改变组成要素1.4 局限性1.5 实例（pokemon vs digimon）二、全局可解释性2.1 反向寻找理想输入2.2 输入正则化三、用模型解释模型3.1 使用线性模型3.2 使用决策树总结 摘要 可解释性分为两种，一种是局部可解释性，一般指的是机器说明如何判断这个样例(例如分类问题中，机器如何将一张猫的图片分成猫)；另一种是全局可解释性，一般指的是机器如何对总体进行特征判断
李宏毅老师-机器学习的可解释性 Part1
weixin_46675905的博客
05-16 261
慢慢来，会更好！ 大家好，我是一个想研究又不会研究的研究生 陪伴大家一起学习成长！ 我们除了要知道答案之外，还要让机器给我们一个答案的理由， 这就是Explainable machine 那为什么我们需要Explainable ML呢？ 神马：当旁边有人围观的时候，它就能根据身边人的反应，通过剁马蹄来计算数学问题 而当没有人围观的时候，它就计算不出来 decision tree：有很多节点，每个节点都有一个问题，决定向左向右，走到末尾做出最终决定 但是，decision tree就是
李宏毅学习笔记18.Explainable ML
老毛的博客
04-20 1042
文章目录简介例子原因Myth of Explainable MLInterpretable v.s.PowerfulLocal Explanation: Explain the DecisionBasic ldeaLimitation of Gradient based ApproachesAttack Interpretation?!Case Study: Pokémon v.s. Digimo...
李宏毅ML+DL学习记录：explainable ML
weixin_41391619的博客
02-29 333
       explainable ML 主要是用来告诉你NN为什么会给出这样的结果，可分为两种：        ①.local explanation:why does the NN think this image is a cat?        ②.global exp...
李宏毅机器学习之Explainable ML
loserChen的博客
06-16 1257
李宏毅机器学习之Explainable ML Local Explanation 通过移动灰色方块，来确定哪个部分是最重要的，越趋于蓝色表示越重要。 类似的想法，逐像素修改，查看输出的变化 求梯度的方法具有一定的局限性： Global Explanation 找一个输入使得yi最大，得到的结果如下左图所示，机器觉得最像每个数字的图像在人看来都是噪声 设计一个R(x)，使得x*中白点...
机器学习-25-Explainable ML(可解释机器学习)
迷雾总会解
12-19 633
所谓的可解释性其实也分为两种，一种是局部可解释性，一般指的是机器说明如何判断这个样例(例如分类问题中，机器如何将一张猫的图片分成猫)；另一种是全局可解释性，一般指的是机器如何对总体进行特征判断(例如分类问题中，机器认为猫长什么样子) 为什么我们需要这种可解释性呢？神经网络一般都是黑盒算法这确实，但并不是黑盒本身让我们难受，因为我们人的大脑也是个黑盒；而是如果我们没有一定的解释的话，我们可能会不爽。就例如一个神经网络来计算成绩，如果你分低还不知道为什么，那绝对会不爽，而如果机器能够解释每道题扣了多少分这种等
2020李宏毅学习笔记——21.Explainable ML(1_8)
weixin_44554337的博客
06-22 458
1.概论：Explainable ML 1.1 是个啥 Explainable ML主要就是告诉你，为什么会这样。 主要分为两种： ①local explanation:why does the NN think this image is a cat? ②global explanation:what does the NN think a cat look like? 1.2 为什么有Explainable ML 我们在用机器判断履历的时候，你得知道它是根据什么判断的，是具体能录呢还是性别。而且模型
深度学习(8): explainable ML
JJJJJJames的博客
01-17 413
1、Explainable ML 不需要完全的了解machine learning的模型 Goal of ml explanation：让客户，老板和自己舒服 Interpretable vs Powerful 一些model是很好被理解的：例如线性模型，权值 deep network 很难理解，但比linear model更powerful 让deep network 变得explainable Interpretable and powerful model decision tree 复
深度学习(十二) Explainable ML
AliForever2020的博客
09-01 789
本文根据李宏毅的可解释性ML而写成的文章。
深度学习（十三）explainable ML
qq_43533956的博客
05-17 243
李宏毅老师课程链接 深度学习的网络往往是一个黑盒子，就是说我们并不知道里面发生了什么，怎么发生的，只知道结果如何。 所以我们要想一些办法来了解深度学习的网络究竟是怎么运作的。 在计算机视觉的领域，这似乎是比较直觉且容易做到的。比如图像识别，我们就可以通过某种办法改变图像的某些部分，然后观察其结果。 比如说我们在图像上遮盖一个灰色方块，观察它是否会对图像辨识的结果产生影响，如下图，红色区域代表遮盖无影响，蓝色区域代表遮盖影响很大。 这样一来，我们就知道了机器确实是从图中狗的部分识别出了狗，而不是把图中的人脸认
李宏毅机器学习笔记第16周_机器学习的可解释性（Explainable ML）
peaunt1的博客
07-25 563
Explainable ML
李宏毅-2023春机器学习
最新发布
08-10
1. 自动化机器学习 (AutoML) 的发展：自动化工具会帮助非专业用户更轻松地构建和优化模型，而无需深入理解复杂的算法细节。 2. 强化学习的进步：强化学习在游戏、机器人控制和自适应系统中有重要应用，今年可能会...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值