李宏毅2020机器学习作业5-Explainable AI：解释CNN模型

已于 2022-07-30 15:40:47 修改
阅读量1.8k 收藏 7
点赞数
分类专栏： 机器学习（付费） 文章标签： 机器学习 人工智能 深度学习
于 2021-01-27 15:06:00 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/iteapoy/article/details/113248170
版权
该博客详细介绍了如何解释深度学习中的CNN模型，特别是李宏毅2020年机器学习作业中的CNN模型。作业包括使用Sailency Map、Filter Visualization、LIME等方法来理解模型决策过程。作者通过实例演示了如何绘制显著图、可视化过滤器以及使用LIME进行局部解释。同时，还探讨了其他解释方法如SHAP和Grad-CAM，并展示了应用这些方法的结果。
摘要由CSDN通过智能技术生成

更多作业，请查看 李宏毅2020机器学习资料汇总

文章目录



0 作业链接

直接在李宏毅课程主页可以找到作业：

如果你打不开colab，下方是搬运的jupyter notebook文件和助教的说明ppt：


1 作业说明

环境

  • jupyter notebook
  • python3
  • pytorch-gpu

了解本专栏 订阅专栏 解锁全文 超级会员免费看
iteapoy
关注
专栏目录
订阅专栏
李宏毅2020机器学习作业3-CNN：食物图片分类
⚡
04-26 1万+
通过卷积神经网络（Convolutional Neural Networks, CNN）对食物图片进行分类。 数据集中的食物图采集于网上，总共11类：Bread, Dairy product, Dessert, Egg, Fried food, Meat, Noodles/Pasta, Rice, Seafood, Soup, Vegetable/Fruit. 每一类用一个数字表示。比如：0表示Bread.
李宏毅2020机器学习作业4-RNN：句子情感分类
⚡
05-05 8058
通过循环神经网络（Recurrent Neural Networks, RNN）对句子进行情感分类。给定一句句子，判断这句句子是正面还是负面的（正面标1，负面标0）
李宏毅机器学习作业
01-18
李宏毅机器学习作业，文档文件，笔记全面，总结充分，仅供学习
李宏毅 机器学习2020 作业5 hw5-explainAI
www_z_dd的博客
07-03 2386
本次作业做的是解释机器学习是如何识别一张图片的。用到了上一次CNN作业训练好的模型。 先导入需要用得到的库，其中lime需要提前安装。 我在安装的时候，conda install命令不能使用，但是使用pip命令就可以安装了。 import os from torch.utils.data import DataLoader import sys import argparse import numpy as np from PIL import Image import matplotlib.pyplot
可解释人工智能（Explainable AI，XAI）
最新发布
Hilda121的博客
07-04 410
可解释人工智能（Explainable AI，XAI）是一组旨在让AI模型的决策过程变得透明和易于理解的技术和方法。随着AI系统在各个领域的广泛应用，了解其内部工作机制和决策依据变得尤为重要，尤其在需要高可信度和公平性的场景中，如医疗诊断、金融决策和法律判决等。
李宏毅《机器学习》任务五
weixin_44533660的博客
07-22 508
Task05开始啦： Task05：观看 2021版视频 视频 P5-9：网络设计的技巧（2天）截止时间 07月22日03:00 开源文档：https://datawhalechina.github.io/leeml-notes 视频地址：https://www.bilibili.com/video/BV11K4y1S7AD?p=5 （一）局部最小值与鞍点 gradient为零的点统称为critical point 局部最小值：local minima 鞍点：saddle point loss没办法在下降也
《李宏毅机器学习》task5
devcy的博客
05-29 310
《李宏毅机器学习》task5推导LR损失函数(1)学习LR梯度下降(2)利用代码描述梯度下降(选做)(3)Softmax原理(4)softmax损失函数(5)softmax梯度下降(6)参考文献 推导LR损失函数(1) 假定： LR逻辑回归假设样本服从泊松0–1分布，因此p(y|x)表达式： 求最大似然估计： 进而求最大对数似然估计： 损失函数： 损失函数表征预测值与真实值之间的差异程度...
2021李宏毅机器学习课程笔记——Explainable AI
xiongxyowo的博客
01-01 979
I. Interpretable v.s. Powerful 从某种程度来讲，可解释性与模型性能是不可兼得的。比方说，线性模型是可解释的(直接看特征的权重)，但是性能有限；深度模型不可解释，但是性能很强。 从目前的现状看，大部分人还是会选择性能更强的模型，而去牺牲一些可解释性。实际上的话，大脑的工作原理我们也不清楚，但我们在许多情况下依然是可以去信任人类的决策。 II. Local Explanation 通过标记出图像中模型认为"重要的"部分，从而侧面反映出模型的决策依据： 例如，如果模型认为图像中的耳
HW_3_李宏毅2020机器学习作业_李宏毅作业3_李宏毅hw3_李宏毅作业三_saledzj_
10-01
《李宏毅2020机器学习作业3：Python实现深度学习基础》 在本次作业中，我们将深入探讨李宏毅教授2020年机器学习课程中的第三部分，主要聚焦于使用Python语言进行深度学习的基本操作。这个作业旨在帮助学生理解和...
李宏毅2020机器学习作业1-Linear Regression：预测PM2.5
热门推荐
⚡
04-10 2万+
采集了台湾环境监测所的数据。 要求：根据前9小时的数据，用线性回归来预测第10个小时的PM2.5的数值。
Explainable-AI:可解释性AI（XAI）
03-25
可解释的AI 可解释性AI（XAI） 笔记本电脑的继续实验的内容，请参见卡片的分类问题（ ）。 操作系统与算法的比较： 功能重要性 酸橙 锚 夏普 部分依赖图（PDP） 累积局部效应图（ALE） 反事实 科莫执行人 git clone https://github.com/miltongneto/Explainable-AI/ cd Explainable-AI pip install -r requirements.txt jupyter notebook Tambémépossívelver o os进行arquivo HTML（ ）的实验。
Explainable_AI：可解释的AI笔记本和项目的集合
02-27
可解释的AI 打开机器学习模型的“黑匣子”不仅在理解我们创建的模型，而且还可以将见解传达给其他人方面具有巨大的意义。 当我遇到可解释的AI的不同用例时，我正在将见解提炼成可管理的块并公开共享。 多重回归模型的可解释性 演示一种使用探索多元回归模型的可。 查看ipynb（建议在下载并运行整个笔记本） 将Shapely值应用于多元线性回归模型，以探索特征对多种输出/标签的影响。
Explainable AI (XAI) 帮助机器学习模型理解外部世界，并找出影响预测结果的最重要因素
程序员光剑
09-20 2946
Explainable Artificial Intelligence （XAI）是一种通过可解释的方式来帮助机器学习系统理解自身运作方式，进而更好地被人类所理解的领域。其发展历史可以追溯到1987年IBM Watson团队发表的一篇文章《The Vision of AI: A Cognitive View of the Future》中提出的概念。这之后，由于学术界和工业界的共同努力，人们开始关注、研究并尝试基于规则的机器学习方法并不能完全解决复杂的问题。
【李宏毅机器学习】Explainable AI
发现问题，并解决问题，批判性思维
10-16 1528
- local explanation的任务是判断出这图片为啥是XX；global explanation的任务是model能够学习到XX是长啥样的（这里说的是XX识别）。 - explanable AI典型的2种方法是敏感性分析（Sensitivity Analysis）和基于梯度的方法（Gradient-based Methods）。 - 敏感性分析：出发点就是看你的模型对于哪个数据实例非常敏感。例如一个分类器，如果我们删除掉一个数据点，模型的决策边界有了剧烈的变化，那么我们就说这个数据点事非
Explainable AI 可解释的人工智能----李宏毅教授机器学习课程笔记四
weixin_39389001的博客
03-08 3737
可解释的人工智能 课程视频地址 文章目录1 引言为啥需要可解释呢？模型可解释v.s模型强大2 Local Explanation--Explain the decision思路方法一方法二***梯度方法存在的问题Explanation技术也可能被恶意攻击实际例子3 Global Explanation——Explain the whole model思路需要加约束用生成器来替换上面的约束4 Usi...
可解释性AI（XAI）之我见
百锦再的博客
01-25 1万+
它指的是一种人工智能系统，能够解释其决策和推理的原因和逻辑，以便用户能够理解、验证和信任这些结果。这些案例说明了可解释性AI在不同领域的应用和实践，通过提供解释和可视化，帮助用户理解模型的决策依据，提高人机交互和用户信任。通过可解释性AI，我们可以追踪和检测这些潜在的偏见，并采取措施来修正和消除它们，从而提供更公正和可信赖的决策。例如，通过解释收入、信用记录、负债等因素对于决策的影响，帮助用户理解模型的判断依据，并促进公平和合规的决策。如何提取和呈现相关信息，使其易于理解和解释，是一个具有挑战性的问题。
ML 模型不等于“黑盒”：explainable AI 可解释的人工智能
deephub
04-25 5722
可解释的人工智能（explainable AI） 是机器学习领域热门话题之一。 机器学习模型通常被认为是“黑盒”，具有内部不可知的特性。因此这些模型在应用时，往往需要首先获取人们的信任、明确其误差的具体含义、明确其预测的可靠性。 本文中，我们将探讨 explainable AI 的内涵及其重要性，并且提供了几个案例以帮助理解。 可解释人工智能的含义 现阶段机器学习的工作流程（从训练到工业...
李宏毅机器学习作业：RNN情感分析
该资源是李宏毅2020年机器学习课程的第四次作业，主要内容是使用循环神经网络（RNN）进行句子情感分类。作业要求使用RNN模型，不能借助额外数据或预训练模型。提供的数据包括带有标签的训练数据（training_label.txt...
评论 11
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

iteapoy

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值