PROTOTEX: Explaining Model Decisions with Prototype Tensors论文解读

最新推荐文章于 2025-03-26 20:52:58 发布
最新推荐文章于 2025-03-26 20:52:58 发布
阅读量734 收藏
点赞数
分类专栏： 模型可解释 文章标签： 自然语言处理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_39499407/article/details/124569595
版权
这篇论文探讨了如何使用原型张量(Prototypetensor)模型提升文本分类任务的可解释性，介绍了模型结构、损失函数、训练过程及Negativeprototype的概念，旨在揭示文本理解的内在机制。
摘要由CSDN通过智能技术生成

提示：这里只放了汇报的Slides，详情可见知乎Durling

文章目录

前言

这是一篇关于NLP可解释的论文。
在文本分类任务下进行，采用原型张量Prototype tensor进行可解释分析。

提示：以下是本篇文章正文内容，下面案例可供参考

一、论文动机与贡献

在这里插入图片描述

二、模型

1.原型张量

在这里插入图片描述

2.模型结构

在这里插入图片描述

3.损失函数

在这里插入图片描述

3.训练过程

在这里插入图片描述

4.Negative prototype

在这里插入图片描述

总结

在这里插入图片描述
关注知乎Durling，里面分享了更多知识。

智能语音信息处理团队14篇论文被语音技术顶会Interspeech 2023接收
weixin_48827824的博客
06-02 1212
近日，Interspeech 2023会议发出了审稿结果通知，语音及语言信息处理国家工程研究中心智能语音信息处理团队共14篇论文被会议接收，论文方向涵盖语音识别、语音合成、话者识别、语音增强、情感识别、声音事件检测等，各接收论文简介见后文。
ACL 2022 主会长文论文分类整理
zenRRan的博客
04-21 2576
每天给你送来NLP技术干货！作者｜蒋锦昊机构｜中国人民大学高瓴人工智能学院方向 | 自然语言处理 来自 | RUC AI Box本文对ACL 2022接受列表中的的602篇主会长文论文，按不同的研究主题进行分类整理（分类标准参考 ACL 官方投稿主题），以供参考。导读ACL 2022是CCF A类会议，人工智能领域自然语言处理（Natural Language P...
AAAI2021论文列表（中英对照）
dovings的博客
07-04 9399
AAAI2021论文列表（中英对照）
总结 | ACL2022主会论文分类整理
04-25 1万+
大家好，我是对白。ACL 2022是CCF A类会议，人工智能领域自然语言处理（Natural Language Processing，NLP）方向最权威的国际会议之一。第60届计算语言学协会计划于今年5月22日-5月27日在爱尔兰都柏林召开。本文对ACL 2022接受列表中的的602篇主会长文论文，按不同的研究主题进行分类整理（分类标准参考 ACL 官方投稿主题），整理过程中难免有疏漏，欢迎大家在下方评论留言，交流探讨！论文列表已经同步更新到 GitHub，欢迎大家关注和 Star。目录Adversari
CVPR 2018 paper list（论文列表）
热门推荐
人工智能技术学习与分享
05-03 2万+
原文链接：http://cvpr2018.thecvf.com/program/main_conference 52 Embodied Question Answering Abhishek Das (Georgia Tech); Samyak Datta (Georgia Tech); Georgia Gkioxari (Facebook); Stefan Lee (Georgia ...
（十：2020.08.28）CVPR 2018 追踪之论文纲要（译）
Jojo论文基地
08-28 7493
CVPR 2018 追踪之论文纲要（修正于2020.08.28）讲在前面论文目录 讲在前面 论坛很多博客都对论文做了总结和分类，但就医学领域而言，对这些论文的筛选信息显然需要更加精细的把控，所以自己对这979篇的论文做一个大致从名称上的筛选，希望能找到些能解决当前问题的答案。 论文链接建议直接Google论文名，比去各种论文或顶会网站找不知道快捷多少。 下面皆为机器翻译以方便我第一次筛选，我会慢慢修正，但现在请结合。有兴趣的可以问我要处理这些论文并自动翻译的脚本。 Respect！ 论文目录
ICCV2017论文摘要汇总
super_chicken的博客
04-18 6829
1. Globally-Optimal Inlier Set Maximisation for Simultaneous Camera Pose and Feature Correspondence Abstract: Estimating the 6-DoF pose of a camera from a single image relative to a pre-computed 3D p...
CVPR2017论文摘要汇总
super_chicken的博客
04-09 1万+
1. Exclusivity-Consistency Regularized Multi-view Subspace Clustering Abstract: Multi-view subspace clustering aims to partition a set of multi-source data into their underlying groups. To boost the ...
基于Python的自然语言处理系列（60）：使用 LangChain 构建 Multi-Vector Retriever 进行文档检索
不想宅的冷同学
03-25 379
在 NLP 和 AI 领域，基于嵌入（Embeddings）进行文档检索已成为一种高效的解决方案。本文介绍如何使用构建 Multi-Vector Retriever，实现对长文档的分块索引和高效检索。
【NLP 47、实践 ⑫ 通过mask和loss计算实现SFT】
最新发布
m0_73983707的博客
03-26 634
表示BERT模型的隐藏层维度，即每个词经过模型处理后输出的向量维度。该参数直接影响模型的表征能力词汇表的大小，即模型需要预测的所有可能token的数量。预训练BERT模型的路径），用于加载预训练权重。预训练模型已通过大规模语料学习语言表示，微调时能显著提升下游任务性能加载预训练的BERT模型权重，用于生成上下文相关的词向量表示。支持从Hugging Face模型库或本地路径加载模型，适用于各类NLP任务（如文本分类、问答等）参数​类型​描述str预训练模型的名称（如）或本地路径。
用 pytorch 从零开始创建大语言模型（一）：理解大型语言模型
xzs1210652636的博客
03-19 1987
用 pytorch 从零开始创建大语言模型（一）：理解大型语言模型
NLP高频面试题（十四）——DPO、PPO等强化学习训练方法介绍
WeLearnNLP
03-24 608
强化学习与监督学习、无监督学习不同，它不依赖大量标注数据，而是通过与环境交互来获得反馈奖励，以此来训练智能体学习最佳决策策略。简单来说，强化学习的本质是智能体通过与环境互动，不断试错，从而优化策略以实现总奖励最大化。无需大量标注数据，但通常需要大量交互数据；处理序列决策问题，当前决策影响后续状态；学习目标是最大化长期累积奖励，而非单步预测精度。PPO（Proximal Policy Optimization）是一种广泛应用的强化学习算法，属于策略梯度（Policy Gradient）方法。
一文读懂 GPT 与 BERT：预训练逻辑及差异剖析
技术人宝哥
03-23 320
在自然语言处理（NLP）领域，预训练语言模型GPT（Generative Pretrained Transformer）和 BERT（Bidirectional Encoder Representations from Transformers）作为杰出代表，备受关注。本文将深入探讨它们的预训练逻辑，并详细对比二者的区别
自然语言处理｜CLIP 的双编码器架构是如何优化图文关联的？
紫雾凌寒
03-26 580
本文论述了CLIP 通过革命性的对比学习框架，重塑了多模态对齐的技术范式。其零样本能力和泛化性能，为跨模态检索、生成、分类等任务提供了高效解决方案。随着模型轻量化和领域适配技术的发展，CLIP 正在推动多模态 AI 进入大规模工业化应用阶段，开启智能交互的新篇章。
使用Python语言部署 QWQ-32B 大语言模型
吉米_王
03-25 205
大模型部署
【论文阅读】基于思维链提示的大语言模型软件漏洞发现与修复方法研究
编程小栈
03-26 713
软件安全漏洞在现代系统中呈现泛在化趋势，其引发的社会影响日益显著。尽管已有多种防御技术被提出，基于深度学习（DL）的方法因能规避传统技术瓶颈而备受关注，但面临两大核心挑战：任务专用标注数据集的规模质量不足，以及面向未知现实场景的泛化能力欠缺。最新研究表明，大语言模型（LLMs）通过思维链（CoT）提示机制展现出突破性潜力。本文创新性地将LLMs与CoT技术融合，系统解决软件漏洞分析三大核心任务：特定类型漏洞识别、泛型漏洞发现及漏洞修复。
从零构建大语言模型全栈开发指南：第二部分：模型架构设计与实现-2.1.3前馈网络（FFN）与激活函数（GELU）优化
kngines
03-25 172
从零构建大语言模型全栈开发指南：第二部分：模型架构设计与实现-2.1.3前馈网络（FFN）与激活函数（GELU）优化
从零构建大语言模型全栈开发指南：第二部分：模型架构设计与实现-2.2.3实战案例：在笔记本电脑上运行轻量级LLM
kngines
03-25 222
从零构建大语言模型全栈开发指南：第二部分：模型架构设计与实现-2.2.3实战案例：在笔记本电脑上运行轻量级LLM
坚持成就梦想：深入解析论文《持久的力量》
The paper likely begins with an introduction to the concept of perseverance, defining it and explaining its significance in various contexts. It may provide historical examples or case studies of ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值