李宏毅 机器学习模型的可解释性 explainable ML

最新推荐文章于 2024-11-04 11:20:07 发布
最新推荐文章于 2024-11-04 11:20:07 发布
阅读量386 收藏
点赞数
分类专栏： 科研讲座公开课笔记 文章标签： 机器学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Stephanie2014/article/details/125698512
版权
本文探讨了在机器学习中模型可解释性的重要性，指出尽管神经网络可能存在不可解释性，但我们仍倾向于使用它们并寻找解释方法。相较于线性模型，决策树在某些情况下提供更好的解释性，但当树变得复杂时，理解其决策路径又成为挑战。可解释性机器学习的目标是增强模型的透明度，如同心理学实验所示，人们往往需要理由来接受结果。博客讨论了如何在保持模型效能的同时追求可解释性。
摘要由CSDN通过智能技术生成

【李宏毅机器学习2021】机器学习模型的可解释性 (Explainable ML)_哔哩哔哩_bilibili

 

我们因为神经网络不可解释而不用他吗？

不，我们可以用强大的模型，并且尝试去解释他

那么比linear model更强大的可解释性的decision tree可以吗？

但其实decision tree也有的时候效果不好，且当decision tree太多的时候，我们也无法知道到底为什么要选择这个

 

 可解释性机器学习模型的目标

打印机心理学实验

人多出一个理由的时候，接受度就会更高，人就是需要一个理由，即使这个理由是把需求重复一遍

 

 

Zaгathustra
关注
专栏目录
李宏毅机器学习2021】机器学习模型的可解释性 (Explainable ML)
SimonChen
07-21 577
explainable 和 Interpretability是有区别的： explainable是指的是一个东西原来是个黑箱，我们想办法赋予其解释的能力，就是explainable， Interpretability，是指的是这个东西本来就不是黑箱，本来就知道其内容，叫做Interpretability。 ...
李宏毅机器学习-explainable machine learning（机器学习的可解释性）及代码
iwill323的博客
10-30 946
explainable machine learning（机器学习的可解释性） Local Explanation Global Explanation
李宏毅机器学习笔记——13. Explainable ML（可解释的机器学习）
weixin_44790306的博客
07-13 1466
摘要： 文章目录1. Explainable machine learning的分类2. Why we need Explainable ML?个人观点可解释性和能力的对比3. Local Explanation4. Global Explanation5. 总结与展望 1. Explainable machine learning的分类 机器不仅要告诉我们结果是什么，而且告诉我们判断理由是什么？ Explainable machine learning分为两种： 1.local explanatio
李宏毅机器学习笔记第16周_机器学习的可解释性（Explainable ML）
peaunt1的博客
07-25 585
Explainable ML
【机器学习】李宏毅——Explainable ML(可解释性的机器学习)
FavoriteStar的博客
09-21 1320
本文介绍了Explainable ML(可解释性的机器学习)的相关内容，抱愧这项技术的相关概述、当前发展等等。
[datawhale202210]李宏毅机器学习2021：机器学习模型的可解释性
qq_40990057的博客
10-16 1065
可解释性是不可缺少的，因为我们需要在借助机器学习模型做出决策时了解机器学习模型做出决策的原因。 模型原生的可解释性和模型本身的拟合能力之间存在着一定的矛盾，线性模型可解释性好，但拟合能力差，而神经网络则恰恰相反。兼具强可解释性和强拟合能力的决策树模型，在实际应用当中也会陷入可解释性变差的困境。我们所探讨的可解释性，是试图给黑箱的模型一个原因，来帮助决策。 模型的可解释性分为Local和Global的，一个探讨做出具体决策的原因，另一个探讨做出某一类决策的道理。
2021李宏毅机器学习笔记--11 explainable ML
guoxinxin0605的博客
06-19 418
2021李宏毅机器学习笔记--11 explainable ML摘要一、局部可解释性1.1 基本思想1.2 移除组成要素1.3 改变组成要素1.4 局限性1.5 实例（pokemon vs digimon）二、全局可解释性2.1 反向寻找理想输入2.2 输入正则化三、用模型解释模型3.1 使用线性模型3.2 使用决策树总结 摘要 可解释性分为两种，一种是局部可解释性，一般指的是机器说明如何判断这个样例(例如分类问题中，机器如何将一张猫的图片分成猫)；另一种是全局可解释性，一般指的是机器如何对总体进行特征判断
【李宏毅】机器学习 笔记11（Explainable ML）
Mr_Kingk的博客
08-02 353
Explainable ML：简单来说，就是在机器做learning时，在预测出结果的同时，给出这样预测的理由，解释它学到的东西。 主要分为两类：1、Local Explainable 2、Global Explainable explainable ml可以给我们一些改进model的参考： 李宏毅老师的个人观点： Local explaination: 基本思想：就是通过删除或修改一些组件的值，然后观察变化，来看这些组件对...
李宏毅老师-机器学习的可解释性 Part1
weixin_46675905的博客
05-16 285
慢慢来，会更好！ 大家好，我是一个想研究又不会研究的研究生 陪伴大家一起学习成长！ 我们除了要知道答案之外，还要让机器给我们一个答案的理由， 这就是Explainable machine 那为什么我们需要Explainable ML呢？ 神马：当旁边有人围观的时候，它就能根据身边人的反应，通过剁马蹄来计算数学问题 而当没有人围观的时候，它就计算不出来 decision tree：有很多节点，每个节点都有一个问题，决定向左向右，走到末尾做出最终决定 但是，decision tree就是
李宏毅老师机器学习课笔记-对模型的攻击以及模型的可解释性
weixin_43113135的博客
06-09 140
李宏毅《机器学习》课程笔记（作业五：可解释的人工智能）
如花美眷，似水流年~
05-12 870
可解释的人工智能有两种方案，一种是局部的可解释性，一种是全局的。 局部的方案的一种想法，把一个图片用灰色的方块蒙上一块，看是否还能识别出来，这个时候要注意方块的大小甚至颜色都可能有影响。 另一个想法是，把一个输入feature做。一点点小的调整，看输出数据的变化大小，据此来判断什么输入feature比较重要，其实就是偏微分。这样可能出现饱和的问题，大象鼻子的问题，可能发现不了重要的feature。 这两种方法都是有可能出现恶意攻击的。 全局解释的方案是这样的，我们希望知道一个模型他心里最典型的猫长什
【深度学习】李宏毅2021/2022春深度学习课程笔记 - 机器学习的可解释性
知不足而奋进，望远山而前行
05-30 1447
还有另外的方法如下图所示，我们可以用一个简单的容易解释的线性模型去模仿难以解释的深度模型，例如，我们给定同样的输入，目标是线性模型的输出和深度模型的输出越接近越好，以此训练出来的线性模型就会模仿深度模型，进而我们可以通过分析线性模型达到解释深度模型的效果。比如下面的第一张图，灰色方框位于狗狗的脸处时，模型识别出狗狗的概率最低，位于其他位置时，模型仍然可以大概率识别出狗狗，所以模型是根据狗狗的脸去判断的，而不是看到了地板或、墙壁或者玩具球才觉得图片中的是狗，这就成为了一个解释！
李宏毅机器学习笔记(十八)——可解释性机器学习
Unique13的博客
08-31 2354
文章目录一.可解释的概念和意义二.局部可解释性1.移除组成要素2.改变组成要素3.局限性三.全局可解释性1.反向寻找理想输入2.输入正则化   前言：老师的课程中强调了课上举的例子都与图像相关，其实其他领域也是同理的。 一.可解释的概念和意义   所谓的可解释性其实也分为两种，一种是局部可解释性，一般指的是机器说明如何判断这个样例(例如分类问题中，机器如何将一张猫的图片分成猫)；另一种是全局可解释性，一般指的是机器如何对总体进行特征判断(例如分类问题中，机器认为猫长什么样子)   为什么我们需要这种可解释性
可解释机器学习（Explainable/ Interpretable Machine Learning）的原理和应用（李宏毅视频课笔记）
双鸭山•克里菲斯•北方孤星之堕
08-02 4221
文章目录0 前言1 Introduction of Explainable/ Interpretable ML1.1 Why we need Explainable ML?1.2 Interpretable v.s. Powerful2 Local Explanation2.1 Introduction of Local Explanation2.1 Removing Way2.2 Modifying Way2.3 Limitation of Gradient based Approaches2.4 At
[李宏毅-机器学习]解释性机器学习 Explainable ML
炼丹师
02-23 552
local explaination 移除图片中的一部分，如果识别结果发现很大变化，则该部分对于识别这个物体很重要 计算最后类别的概率那个节点对每个pixel的梯度，梯度大的话就说明该pixel重要 global explaination 用一个可以被解释的model去解释另一个不可被解释的model ...
【机器学习】27. 马尔科夫链和隐马模型HMM
weixin_48846514的博客
11-02 707
马尔科夫链和隐马模型HMM
【机器学习】机器学习与成像技术：开启智能视觉的新篇章
EterNity_TiMe_的计算机学习之路
11-03 3834
在科技日新月异的今天，机器学习与成像技术的融合正引领着一场前所未有的智能视觉革命。随着大数据的蓬勃发展和计算能力的显著提升，机器学习不再仅仅是学术界的研究热点，它正逐步渗透到我们生活的每一个角落，特别是在成像技术领域展现出了巨大的潜力和价值。
【机器学习】K-means 聚类
2303_80346267的博客
11-02 854
K-means 是一种经典的非监督学习聚类算法，常用于数据划分和模式识别。其核心思想是将数据集划分为 \( k \) 个互斥的簇，每个簇由一个质心（簇中心）来代表。
机器学习—前向传播的一般实现
最新发布
yn3535_的博客
11-04 419
为了在神经网络中实现正向支撑，需要定义x，然后可以将1的激活计算为1，所以a与w,b都是相对应的，这些都是参数，有时也称为第一个隐藏层的权重，然后你可以计算a2，需要用到a1，这是第二个隐藏层的参数或权重，然后计算a3和a4，如果这是一个有四层的神经网络，那么x的最终输出正好等于4，W使用大写，因为线性代数的符号约定之一是使用大写或大写字母表，当它指代矩阵时，小写指向量和标量，因为这是一个矩阵所以使用大写W。输入前一层的激活，给定当前层的参数，它返回下一层的激活，所以给定稠密函数。，这里可以是等于x的，
李宏毅机器学习课程笔记：从深度学习到卷积神经网络
"李宏毅的机器学习课程笔记涵盖了从基础的回归分析、梯度上升算法，到分类问题、反向传播、卷积神经网络（CNN）、半监督学习、无监督学习以及线性模型等多个核心主题。这些内容构成了深度学习和机器学习的基础理论与...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值