Did the Model Understand the Question?读书笔记

最新推荐文章于 2024-04-16 09:45:23 发布
最新推荐文章于 2024-04-16 09:45:23 发布
阅读量630 收藏 1
点赞数
分类专栏： NLP
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sjh18813050566/article/details/86633486
版权

发表于ACL2018

利用Integrated Gradient方法得到模型最关注的词，发现模型往往只关注部分词，而且往往并不重要。通过两种方法说明问题：

    1.问题只保留重要词，模型仍有较好结果

    2.加入包含重要词的无关句子，模型表现下降很快

这是一种更加有效的攻击方法，也可以衡量模型对于部分重要词的依赖度是否过高，是评价模型的另一种方法

「已注销」
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
integrated-gradient-pytorch:这是该论文的pytorch实施-深度网络的公理归因
05-24
综合梯度 这是的pytorch实现。 原始的tensorflow版本可以在找到。 致谢 要求 python-3.5.2 pytorch-0.4.1 的OpenCVPython的 待办事项清单 添加更多功能作为原始代码。 微调结果，使它们接近原始纸张。 指示 强烈建议使用GPU加速计算。 如果使用CPU，我建议选择一些小型网络，例如resnet18 。 您还需要将图像放在examples/ 。 支持的网络列表（当然，您可以自己添加任何网络） 起始 网路18 resnet152 vgg19 运行代码 python main.py --cuda --model-type= ' inception ' --img= ' 01.jpg ' 结果 结果与原始论文略有不同，它可能存在一些错误或需要进行一些调整。 我会不断更新，欢迎任何贡献！ 盗梦空间v3 ResNet-18 ResNe
可解释性与积分梯度 Integrated Gradients
佚失的诗篇
11-07 7274
积分梯度是一种神经网络可解释性方法 此方法首先在论文《Gradients of Counterfactuals》中提出，后来 《Axiomatic Attribution for Deep Networks》再次介绍了它，这已经是2016～2017年间的工作了 此方法已得到较多应用，但是也有一些反对者表示其给出的结果对于积分路径敏感，不能给出唯一确切的结果，因此存在争议 1. 可解释性 事实上，很多论文中对于可解释性的定义都不太一样，或者直接对避而不谈，这导致可解释性成为一个大而模糊的领域。一般概.
DID-双重差分模型
热门推荐
qq_41103204的博客
04-12 2万+
DID-双重差分模型 DID（difference-in-differences model）也叫双重差分模型。 现在要修一条铁路，铁路是条线，所以必然会有穿过的城市和没有被穿过的城市。记Di=1 如果城市i被穿过，Di=0 如果城市i没有被穿过。 现在我们比较好奇铁路修好以后，被铁路穿过的城市是不是经济增长更快了？我们该怎么做呢？ 一开始的想法是，我们把Di=1的城市的GDP加总，减去Di=0的...
积分梯度：一种新颖的神经网络可视化方法
devil_son1234的博客
03-15 1089
本文介绍一种神经网络的可视化方法：积分梯度（Integrated Gradients），它首先在论文 Gradients of Counterfactuals[1] 中提出，后来 Axiomatic Attribution for Deep Networks[2] 再次介绍了它，两篇论文作者都是一样的，内容也大体上相同，后一篇相对来说更易懂一些，如果要读原论文的话，建议大家优先读后一篇。 当然，它已经是 2016-2017 年间的工作了，“新颖”说的是它思路上的创新有趣，而不是指最近发表。 所谓可视..
DID模型
quzheng90的博客
05-18 2万+
E(yt1)E(yc1):政策变化前结果的均值。E(yt2)E(yc2):政策变化后结果的均值 delta(yt)反应实验组政策变化后的结果变化，delta（yc）反应control组证的变化前后的差。delta(delta(y))即是政策产生的影响。 did前提：共同趋势假定 政策的实施有滞后效应，因此需要把政策的实施变量dst滞后几期验证政策实施的平均效应。 实现DID需要共同趋势检验方法： 如果实验组与对照组不满足共同趋势假定，需如下处理： 1、加权对照...
ByteFinder - Where did all the bytes go?-开源
05-29
显示哪些目录（文件夹）使用的空间最多，并带有 10 个最大的饼图和所有目录的完整报告。 适用于整个驱动器或驱动器上的任何文件夹。
关于Tomcat出现The origin server did not find a current representation for the target resourc...的问题
08-24
在Web开发过程中，Tomcat服务器可能会遇到各种错误，其中之一就是"The origin server did not find a current representation for the target resource or is not willing to disclose that one exists."。...
a project model for the FreeBSD Project.7z
08-21
A project model for the FreeBSD Project Niklas Saers Copyright © 2002-2005 Niklas Saers [ Split HTML / Single HTML ] Table of Contents Foreword 1 Overview 2 Definitions 2.1. Activity 2.2. Process ...
zhongjiang.zip_Void_ The
09-23
System.out.println("3:Flip a coin to decide whether to open the box you originally chose or the remaining box ,which the game show host did not open.") int rand double a,b,c //a,b,c分别表示选择1，...
ASCII.rar_The English
09-24
The American Standard Code for Information Interchange (acronym: ASCII pronounced /&#712 &#230 ski/ ASS-kee)[2] is a character-encoding scheme based on the ordering of the English alphabet. ASCII ...
matlab开发-Inverseintegratedgradient
08-24
matlab开发-Inverseintegratedgradient。矢量化和完全稀疏的一维、二维和三维综合梯度
the propfind response did not include the requested properties
正经扯淡
07-30 5336
从仓库检出代码客户端提示如下错误： the propfind response did not include the requested properties。 这意味着，客户端的协议版本高于服务器的版本，server的协议没有client要求的属性。
探索Integrated Gradients：一种强大的深度学习可解释性方法
最新发布
gitblog_00079的博客
04-16 776
探索Integrated Gradients：一种强大的深度学习可解释性方法 项目地址:https://gitcode.com/ankurtaly/Integrated-Gradients Integrated Gradients 是一个开源Python库，它实现了Sundararajan等人在2017年提出的一种用于深度学习模型解释的技术。这个项目为研究者和开发者提供了一种工具，帮助理解神经网络...
2021 Explainable ML（李宏毅
linyuxi_loretta的博客
11-02 289
1. correct answers ≠ intelligent e.g.神马汉斯2. 在很多真實的應用中，可解釋性的模型往往是必須的3. 可解释性ML的可提升ML model。今天在使用這些深度學習技術的時候、往往狀況是這個樣子、有某人说”這個就是你的機器學習的系統“，- 是啊 我就是把資料丟進去、、裡面就是有很多矩陣的相乘、就會跑出我的結果。如果結果不如預期的話，怎麼樣呢- 現在大家都知道就爆調一下參數對不對、、改個 Learning Rate、調一下 Network 的架構對不對，
归因分析笔记21 可解释的机器学习-李宏毅讲座
越开源越幸运
02-21 584
视频链接:课件链接:作业链接:Interpretable与explainable的差异Interpretable本身就可解释的(线性模型, 单颗浅层决策树)explainable本身不可解释的模型赋予其解释(深层决策树/随机森林)
利用captum.attr的IntegratedGradients工具进行特征选择实验
AlphaFinance
11-05 976
去掉“16个交易日内的涨停情况（riseStopInfo）”、“16个交易日内的跌停情况（fallStopInfo）”这两个特征后： 特征重要度为0的特征： 16个交易日内的一字板跌停情况（fallStop1zbNumIn16days） 1个股票得到的特征重要度分布： Average Importance of Features code : 0.000000000 month_day : -0.000000024 tradeDayInMonth : -0.000000008 open : .
清华 NLP 团队推荐：必读的77篇机器阅读理解论文
喜欢打酱油的老鸟
11-06 7490
https://mp.weixin.qq.com/s/2VhgEieBwXymAv2qxO3MPw   【导读】机器阅读理解(Machine Reading Comprehension)是指让机器阅读文本，然后回答和阅读内容相关的问题。阅读理解是自然语言处理和人工智能领域的重要前沿课题，对于提升机器智能水平、使机器具有持续知识获取能力具有重要价值，近年来受到学术界和工业界的广泛关注。清华 NL...
ACL 2021 | 为什么机器阅读理解模型会学习走捷径？
Paper weekly
07-30 473
©PaperWeekly 原创 ·作者|Maple小七学校|北京邮电大学硕士生研究方向|自然语言处理虽然当前的 MRC 模型在不少阅读理解 benchmark 上接近甚至超越...
基线理解_芝加哥大学：模型真的理解问题吗?
weixin_39631344的博客
12-06 100
ACL 2018 Long Papers模型真的理解问题吗?Did the Model Understand the Question?芝加哥大学University of Chicago本文是芝加哥大学发表于 ACL 2018 的工作，分析了图像、表格和文本段落问答三项任务的最新深度学习模型。根据attribution(词语重要性)的概念，我们发现这些深层网络经常忽略掉重要的问题术语。利用这种行...
When did you update the last time?
03-31
As an AI language model, I don't update like a software program. However, the developers of OpenAI, the company that created me, do update my language and training data periodically to ensure that I ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值