李宏毅 机器学习模型的可解释性 explainable ML

最新推荐文章于 2024-09-22 22:53:38 发布
最新推荐文章于 2024-09-22 22:53:38 发布
阅读量364 收藏
点赞数
分类专栏： 科研讲座公开课笔记 文章标签： 机器学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Stephanie2014/article/details/125698512
版权
本文探讨了在机器学习中模型可解释性的重要性，指出尽管神经网络可能存在不可解释性，但我们仍倾向于使用它们并寻找解释方法。相较于线性模型，决策树在某些情况下提供更好的解释性，但当树变得复杂时，理解其决策路径又成为挑战。可解释性机器学习的目标是增强模型的透明度，如同心理学实验所示，人们往往需要理由来接受结果。博客讨论了如何在保持模型效能的同时追求可解释性。
摘要由CSDN通过智能技术生成

【李宏毅机器学习2021】机器学习模型的可解释性 (Explainable ML)_哔哩哔哩_bilibili

 

我们因为神经网络不可解释而不用他吗？

不，我们可以用强大的模型，并且尝试去解释他

那么比linear model更强大的可解释性的decision tree可以吗？

但其实decision tree也有的时候效果不好，且当decision tree太多的时候，我们也无法知道到底为什么要选择这个

 

 可解释性机器学习模型的目标

打印机心理学实验

人多出一个理由的时候，接受度就会更高，人就是需要一个理由，即使这个理由是把需求重复一遍

 

 

Zaгathustra
关注
专栏目录
李宏毅机器学习2021】机器学习模型的可解释性 (Explainable ML)
SimonChen
07-21 561
explainable 和 Interpretability是有区别的： explainable是指的是一个东西原来是个黑箱，我们想办法赋予其解释的能力，就是explainable， Interpretability，是指的是这个东西本来就不是黑箱，本来就知道其内容，叫做Interpretability。 ...
李宏毅机器学习笔记——13. Explainable ML（可解释的机器学习）
weixin_44790306的博客
07-13 1404
摘要： 文章目录1. Explainable machine learning的分类2. Why we need Explainable ML?个人观点可解释性和能力的对比3. Local Explanation4. Global Explanation5. 总结与展望 1. Explainable machine learning的分类 机器不仅要告诉我们结果是什么，而且告诉我们判断理由是什么？ Explainable machine learning分为两种： 1.local explanatio
李宏毅机器学习笔记第16周_机器学习的可解释性（Explainable ML）
peaunt1的博客
07-25 563
Explainable ML
【机器学习】李宏毅——Explainable ML(可解释性的机器学习)
FavoriteStar的博客
09-21 1262
本文介绍了Explainable ML(可解释性的机器学习)的相关内容，抱愧这项技术的相关概述、当前发展等等。
[datawhale202210]李宏毅机器学习2021：机器学习模型的可解释性
qq_40990057的博客
10-16 1050
可解释性是不可缺少的，因为我们需要在借助机器学习模型做出决策时了解机器学习模型做出决策的原因。 模型原生的可解释性和模型本身的拟合能力之间存在着一定的矛盾，线性模型可解释性好，但拟合能力差，而神经网络则恰恰相反。兼具强可解释性和强拟合能力的决策树模型，在实际应用当中也会陷入可解释性变差的困境。我们所探讨的可解释性，是试图给黑箱的模型一个原因，来帮助决策。 模型的可解释性分为Local和Global的，一个探讨做出具体决策的原因，另一个探讨做出某一类决策的道理。
李宏毅机器学习-explainable machine learning（机器学习的可解释性）及代码
iwill323的博客
10-30 901
explainable machine learning（机器学习的可解释性） Local Explanation Global Explanation
2021李宏毅机器学习笔记--11 explainable ML
guoxinxin0605的博客
06-19 396
2021李宏毅机器学习笔记--11 explainable ML摘要一、局部可解释性1.1 基本思想1.2 移除组成要素1.3 改变组成要素1.4 局限性1.5 实例（pokemon vs digimon）二、全局可解释性2.1 反向寻找理想输入2.2 输入正则化三、用模型解释模型3.1 使用线性模型3.2 使用决策树总结 摘要 可解释性分为两种，一种是局部可解释性，一般指的是机器说明如何判断这个样例(例如分类问题中，机器如何将一张猫的图片分成猫)；另一种是全局可解释性，一般指的是机器如何对总体进行特征判断
【李宏毅】机器学习 笔记11（Explainable ML）
Mr_Kingk的博客
08-02 325
Explainable ML：简单来说，就是在机器做learning时，在预测出结果的同时，给出这样预测的理由，解释它学到的东西。 主要分为两类：1、Local Explainable 2、Global Explainable explainable ml可以给我们一些改进model的参考： 李宏毅老师的个人观点： Local explaination: 基本思想：就是通过删除或修改一些组件的值，然后观察变化，来看这些组件对...
李宏毅老师-机器学习的可解释性 Part1
weixin_46675905的博客
05-16 261
慢慢来，会更好！ 大家好，我是一个想研究又不会研究的研究生 陪伴大家一起学习成长！ 我们除了要知道答案之外，还要让机器给我们一个答案的理由， 这就是Explainable machine 那为什么我们需要Explainable ML呢？ 神马：当旁边有人围观的时候，它就能根据身边人的反应，通过剁马蹄来计算数学问题 而当没有人围观的时候，它就计算不出来 decision tree：有很多节点，每个节点都有一个问题，决定向左向右，走到末尾做出最终决定 但是，decision tree就是
李宏毅老师机器学习课笔记-对模型的攻击以及模型的可解释性
weixin_43113135的博客
06-09 127
李宏毅《机器学习》课程笔记（作业五：可解释的人工智能）
如花美眷，似水流年~
05-12 848
可解释的人工智能有两种方案，一种是局部的可解释性，一种是全局的。 局部的方案的一种想法，把一个图片用灰色的方块蒙上一块，看是否还能识别出来，这个时候要注意方块的大小甚至颜色都可能有影响。 另一个想法是，把一个输入feature做。一点点小的调整，看输出数据的变化大小，据此来判断什么输入feature比较重要，其实就是偏微分。这样可能出现饱和的问题，大象鼻子的问题，可能发现不了重要的feature。 这两种方法都是有可能出现恶意攻击的。 全局解释的方案是这样的，我们希望知道一个模型他心里最典型的猫长什
【深度学习】李宏毅2021/2022春深度学习课程笔记 - 机器学习的可解释性
知不足而奋进，望远山而前行
05-30 1412
还有另外的方法如下图所示，我们可以用一个简单的容易解释的线性模型去模仿难以解释的深度模型，例如，我们给定同样的输入，目标是线性模型的输出和深度模型的输出越接近越好，以此训练出来的线性模型就会模仿深度模型，进而我们可以通过分析线性模型达到解释深度模型的效果。比如下面的第一张图，灰色方框位于狗狗的脸处时，模型识别出狗狗的概率最低，位于其他位置时，模型仍然可以大概率识别出狗狗，所以模型是根据狗狗的脸去判断的，而不是看到了地板或、墙壁或者玩具球才觉得图片中的是狗，这就成为了一个解释！
李宏毅机器学习笔记(十八)——可解释性机器学习
Unique13的博客
08-31 2247
文章目录一.可解释的概念和意义二.局部可解释性1.移除组成要素2.改变组成要素3.局限性三.全局可解释性1.反向寻找理想输入2.输入正则化   前言：老师的课程中强调了课上举的例子都与图像相关，其实其他领域也是同理的。 一.可解释的概念和意义   所谓的可解释性其实也分为两种，一种是局部可解释性，一般指的是机器说明如何判断这个样例(例如分类问题中，机器如何将一张猫的图片分成猫)；另一种是全局可解释性，一般指的是机器如何对总体进行特征判断(例如分类问题中，机器认为猫长什么样子)   为什么我们需要这种可解释性
可解释机器学习（Explainable/ Interpretable Machine Learning）的原理和应用（李宏毅视频课笔记）
双鸭山•克里菲斯•北方孤星之堕
08-02 4143
文章目录0 前言1 Introduction of Explainable/ Interpretable ML1.1 Why we need Explainable ML?1.2 Interpretable v.s. Powerful2 Local Explanation2.1 Introduction of Local Explanation2.1 Removing Way2.2 Modifying Way2.3 Limitation of Gradient based Approaches2.4 At
[李宏毅-机器学习]解释性机器学习 Explainable ML
炼丹师
02-23 526
local explaination 移除图片中的一部分，如果识别结果发现很大变化，则该部分对于识别这个物体很重要 计算最后类别的概率那个节点对每个pixel的梯度，梯度大的话就说明该pixel重要 global explaination 用一个可以被解释的model去解释另一个不可被解释的model ...
物理学基础精解【7】
理论物理与应用物理之家
09-22 676
它表示两点之间的直线距离，即连接这两点的线段的长度。在n维空间中，点之间的距离的计算与二维或三维空间中的计算类似，但涉及更多的坐标轴。注意，数量积的结果是一个标量，而不是向量。在n维空间中，无论n的值是多少，距离的计算都遵循上述公式，只是需要考虑更多的坐标轴。上面的两种变换，先后顺序不影响最后结果，可以先旋转再平移，也可反过来，等等。数量积是两个向量之间的一种运算，其结果是一个标量（实数）。这个公式来源于勾股定理，即将两点间的线段视为直角三角形的斜边，而。向量减法可以看作是加上一个向量的相反向量。
通过解预测和机器学习促进蚁群优化
太极生两鱼
09-16 1118
ML - ACO 算法的第一阶段，使用一组已知最优解的小定向越野问题实例训练一个 ML 模型。具体来说，使用分类模型根据问题特定的特征和统计度量来判断一条边是否属于最优路线。然后，训练后的模型用于预测测试问题实例中图中一条边属于最优路线的 “概率”。在第二阶段，我们将 ML 模型预测的概率值纳入 ACO 算法中，即使用概率值作为启发式权重或用于初始化信息素矩阵。这样做的目的是使 ACO 的采样偏向于那些预测更有可能属于最优路线的边，从而有望提高 ACO 找到高质量路线的效率。
机器学习查漏补缺（2）
garrulousabyss的博客
09-20 990
[E] How can we use second-order derivatives for training models?Second-order derivatives can be used to train models via optimization techniques that go beyond gradient-based (first-order) methods. One popular second-order method is Newton's method, which
cnn机器学习时python版本不兼容报错
最新发布
所念皆星河
09-22 84
A module that was compiled using NumPy 1.x cannot be run in NumPy 2.1.1 as it may crash. To support both 1.x and 2.x versions of NumPy, modules must be compiled with NumPy 2.0. Some module may need to rebuild instead e.g. with 'pybind11>=2.12'.
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值