深度学习(8): explainable ML

最新推荐文章于 2024-06-02 01:30:38 发布
最新推荐文章于 2024-06-02 01:30:38 发布
阅读量412 收藏
点赞数
文章标签： python 深度学习 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_51182518/article/details/112757070
版权
本文探讨了深度学习的可解释性，对比了易解释与强效模型之间的区别，并深入讲解了局部解释方法如梯度基方法的局限性和解决方案。通过对Saliency Map的案例研究，揭示了模型可能依赖于不相关的特征进行决策。同时，介绍了全局解释方法，如激活最大化和使用决策树作为可解释模型，并提到了LIME算法如何构建局部可解释的代理模型。最后讨论了决策树正则化，以避免过于复杂的决策树结构。
摘要由CSDN通过智能技术生成

1、Explainable ML

在这里插入图片描述
在这里插入图片描述

  • 不需要完全的了解machine learning的模型
  • Goal of ml explanation：让客户，老板和自己舒服

Interpretable vs Powerful

  • 一些model是很好被理解的：例如线性模型，权值
  • deep network 很难理解，但比linear model更powerful
  • 让deep network 变得explainable

Interpretable and powerful model

  • decision tree
  • 复杂的决策树也很难解释
  • 一般都是用forest，更加难解释

2、local explanation

question：why do you think this image is a cat

2.1 Basic idea

在这里插入图片描述

如果想了解每一个components对于决策的重要性，那么可以通过移除或修改某些components的values去观察输出结果的变化。如果有很大的decision change，即代表移除/修改的component很重要

2.2 example

在这里插入图片描述
在这里插入图片描述

如果gray box选太小或太小，那么结果会不准确。

在这里插入图片描述

对于每个分类的概率分布 y k y^k yk，将某一个样本加入一个 δ x \delta x

最低0.47元/天 解锁文章
weixin_51182518
关注
Python深度学习实践：解读神经网络的解释与可视化
程序员光剑
08-12 364
1. 背景介绍 1.1 深度学习的兴起与可解释性需求 近年来，深度学习在各个领域都取得了显著的成就，例如图像识别、自然语言处理、语音识别等。然而，深度学习模型的“黑盒”特性也引发了人们对其可解释性的担忧。为了更好地理解和信任深度学习模型，我们需要能够解释模型的决策过程，了解模型内部的运作
物联网网络中可解释的深度学习入侵检测An explainable deep learning-enabled intrusion detection framework in IoT networks
风口IT猪的成长录
05-27 108
尽管可解释人工智能(XAI)领域近来备受关注，但其在网络安全应用中的实现仍需要进一步研究，以了解其在发现攻击面和向量方面的有效性。在网络防御中，特别是基于异常的入侵检测系统(IDS)，。本文提出了一种新颖的可解释的物联网（IoT）网络入侵检测框架。我们开发了一种 IDS，使用短期长记忆 (LSTM) 模型来识别网络攻击并解释模型的决策。
【李宏毅】机器学习 笔记11（Explainable ML）
Mr_Kingk的博客
08-02 323
Explainable ML：简单来说，就是在机器做learning时，在预测出结果的同时，给出这样预测的理由，解释它学到的东西。 主要分为两类：1、Local Explainable 2、Global Explainable explainable ml可以给我们一些改进model的参考： 李宏毅老师的个人观点： Local explaination: 基本思想：就是通过删除或修改一些组件的值，然后观察变化，来看这些组件对...
深度学习（十三）explainable ML
qq_43533956的博客
05-17 243
李宏毅老师课程链接 深度学习的网络往往是一个黑盒子，就是说我们并不知道里面发生了什么，怎么发生的，只知道结果如何。 所以我们要想一些办法来了解深度学习的网络究竟是怎么运作的。 在计算机视觉的领域，这似乎是比较直觉且容易做到的。比如图像识别，我们就可以通过某种办法改变图像的某些部分，然后观察其结果。 比如说我们在图像上遮盖一个灰色方块，观察它是否会对图像辨识的结果产生影响，如下图，红色区域代表遮盖无影响，蓝色区域代表遮盖影响很大。 这样一来，我们就知道了机器确实是从图中狗的部分识别出了狗，而不是把图中的人脸认
机器学习-25-Explainable ML(可解释机器学习)
迷雾总会解
12-19 628
所谓的可解释性其实也分为两种，一种是局部可解释性，一般指的是机器说明如何判断这个样例(例如分类问题中，机器如何将一张猫的图片分成猫)；另一种是全局可解释性，一般指的是机器如何对总体进行特征判断(例如分类问题中，机器认为猫长什么样子) 为什么我们需要这种可解释性呢？神经网络一般都是黑盒算法这确实，但并不是黑盒本身让我们难受，因为我们人的大脑也是个黑盒；而是如果我们没有一定的解释的话，我们可能会不爽。就例如一个神经网络来计算成绩，如果你分低还不知道为什么，那绝对会不爽，而如果机器能够解释每道题扣了多少分这种等
李宏毅老师课程：Explainable ML
APythonC的博客
08-21 390
可解释的MLIntroductionWhy we need Explainable ML?Interpretable v.s. PowerfulLocal ExplanationBasic IdeaLimitation of Gradient based ApproachesAttack InterpretationGlobal ExplanationActivation Minimization (review)Constraint from GeneratorUsing a model to expla
深度学习(十二) Explainable ML
AliForever2020的博客
09-01 788
本文根据李宏毅的可解释性ML而写成的文章。
Python深度学习实践：AI在股票市场预测中的应用
最新发布
AI架构设计之禅
06-02 582
Python Deep Learning Practices: AI Application in Stock Market Prediction 1. B
李宏毅学习笔记18.Explainable ML
老毛的博客
04-20 1039
文章目录简介例子原因Myth of Explainable MLInterpretable v.s.PowerfulLocal Explanation: Explain the DecisionBasic ldeaLimitation of Gradient based ApproachesAttack Interpretation?!Case Study: Pokémon v.s. Digimo...
【机器学习】李宏毅——Explainable ML(可解释性的机器学习)
FavoriteStar的博客
09-21 1258
本文介绍了Explainable ML(可解释性的机器学习)的相关内容，抱愧这项技术的相关概述、当前发展等等。
李宏毅机器学习笔记——13. Explainable ML（可解释的机器学习）
weixin_44790306的博客
07-13 1398
摘要： 文章目录1. Explainable machine learning的分类2. Why we need Explainable ML?个人观点可解释性和能力的对比3. Local Explanation4. Global Explanation5. 总结与展望 1. Explainable machine learning的分类 机器不仅要告诉我们结果是什么，而且告诉我们判断理由是什么？ Explainable machine learning分为两种： 1.local explanatio
[李宏毅-机器学习]解释性机器学习 Explainable ML
炼丹师
02-23 524
local explaination 移除图片中的一部分，如果识别结果发现很大变化，则该部分对于识别这个物体很重要 计算最后类别的概率那个节点对每个pixel的梯度，梯度大的话就说明该pixel重要 global explaination 用一个可以被解释的model去解释另一个不可被解释的model ...
李宏毅机器学习之Explainable ML
loserChen的博客
06-16 1256
李宏毅机器学习之Explainable ML Local Explanation 通过移动灰色方块，来确定哪个部分是最重要的，越趋于蓝色表示越重要。 类似的想法，逐像素修改，查看输出的变化 求梯度的方法具有一定的局限性： Global Explanation 找一个输入使得yi最大，得到的结果如下左图所示，机器觉得最像每个数字的图像在人看来都是噪声 设计一个R(x)，使得x*中白点...
李宏毅ML+DL学习记录：explainable ML
weixin_41391619的博客
02-29 332
       explainable ML 主要是用来告诉你NN为什么会给出这样的结果，可分为两种：        ①.local explanation:why does the NN think this image is a cat?        ②.global exp...
Explainable machine learning
qq_30776035的博客
08-21 453
可解释性和网络能力一般难两全 Local Explanation 为什么你认为这个图片属于类别y? Remove-based 将部分移除，如果对结果影响大那么说明该部分重要（移除部分大小？） Gradient-based ytruey_{true}ytrue​对输入做微分，值比较大的像素点重要 Model-based 使用一个简单网络来模拟另一个网络的一部分 Linear(LIME)...
2020李宏毅学习笔记——21.Explainable ML(1_8)
weixin_44554337的博客
06-22 458
1.概论：Explainable ML 1.1 是个啥 Explainable ML主要就是告诉你，为什么会这样。 主要分为两种： ①local explanation:why does the NN think this image is a cat? ②global explanation:what does the NN think a cat look like? 1.2 为什么有Explainable ML 我们在用机器判断履历的时候，你得知道它是根据什么判断的，是具体能录呢还是性别。而且模型
2020李宏毅学习笔记——25.Explainable ML(6_8)
weixin_44554337的博客
06-23 225
1.Using a model to explain another 学习好的去给学习不好的讲题。 一些模型容易解释，用容易解释的模型来模拟黑盒模型的行为，什么行为？黑盒的输入输出，但是线性模型能力不够，无法模拟高非线性的黑盒网络，很多数据没有办法处理，不过可以模拟局部特性哦，从而解释黑盒模型。 那一般谁学习好呢？线性模型啊 2.介绍一个LIME的技术 2.1 什么呢？ 是一个 很直观，相当于局部线性化，选择这个附近的大小，会影响最终解释的结果，有很多参数要调。 2.2LIME的实施步骤： 首先选择一张
Explainable
Assassintt的专栏
09-09 888
Explainable/Interpretable ML 两种类型 Local Explanation Why do you think this image is a cat? Global Explanation What do you think a “cat” looks like? Point of Explainable ML 解释Ml的目的并不是完全的知道Ml model 的工...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值