【读】文本摘要—（1）Faithful to the Original: Fact Aware Neural Abstractive Summarization

最新推荐文章于 2023-10-03 15:42:26 发布
最新推荐文章于 2023-10-03 15:42:26 发布
阅读量1k 收藏 3
点赞数
分类专栏： 自动摘要
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/imsuhxz/article/details/82689940
版权
本文介绍了曹自强在AAAI 2018的论文，关注生成摘要的忠实性问题。通过OpenIE和依赖分析提取事实，使用双重注意力的seq2seq模型，以确保生成的摘要既信息充分又忠实于原文。实验显示，该方法能显著减少虚假事实的生成。
摘要由CSDN通过智能技术生成

非学无以广才，非志无以成学。

没有找到原文章，只读了预讲会的ppt。出自于香港理工大学曹自强，Faithful to the Original: Fact Aware Neural Abstractive Summarization。收录于AAAI 2018。

本文主要做了三个方面的工作：

（1）基于卷积神经网络的sequence to sequence框架，将主题模型整合进自动摘要模型中。使用了开放的信息抽取和依存分析技术从源文本中提取实际的事实描述。

（2）提出dual-attention sequence-to-sequence框架来强制以源文本和提取的事实描述为条件的生成。

目录

Solution

Fact Extraction | OpenIE

Fact Extraction | Dependency Parsing

Statistics of Facts

Summarization Model

Framework

Data and Setting

Informativeness Performance

Faithfulness Performance

Conclusion

生成摘要不仅要保持信息充分，更重要的是信息的忠实性。

与抽取摘要不同，生成式摘要在融合原文本的过程中往往会创造出虚假的事实。曹自强在报告中介绍，目前有近 30% 的最先进的神经系统都会受到这种问题的困扰。以前生成式摘要主要着眼于信息性的提高，但作者认为忠实性（也即「信」）是生成摘要的前提，非常重要。

Solution

将现有的事实编码到摘要系统中

1.从源头提取事实

      OpenIE

      依存分析

2.开发基于双重注意力的seq2seq模型，以迫使生成的生成条件同时使用源文本和提取的事实

Fact Extraction | OpenIE

1.(主题;谓词;对象)三元组

最低0.47元/天 解锁文章
imsuhxz
关注
专栏目录
内容算法解读：提高内容摘要与原文的一致性（Faithfulness）
liveshow021_jxb的博客
03-04 1144
受益于预训练语言模型的发展，应用神经网络模型提取内容摘要的技术也获得了长足进步。但目前还存在一个未被很好解决的问题：神经网络模型提取的摘要不能如实反映原文档的中心思想，没有做到忠实（notfaithful）。可能的原因有两个，1）摘要模型未能理解或者抓取输入文档内容的要点；2）摘要模型过度依赖语言模型，产生了流畅但不达意的词语。本文提出了一个忠实度增强摘要模型，克服上述两个问题，并尽可能贴切地表达出原文的中心思想。
Abstractive Summarization
weixin_30561177的博客
07-25 1328
Sequence-to-sequence Framework A Neural Attention Model for Abstractive Sentence Summarization Alexander M. Rush et al., Facebook AI Research/Harvard EMNLP2015 sentence level seq2seq模型在2014年提出，这篇论文是...
大模型幻觉评估方法——忠实性（Faithfulness）与事实性（Factuality）
夏栀的博客
07-20 3313
在本篇文章中，我们首先通过一篇早期工作讨论了忠实度和真实度的含义是什么。然后，我们综述了评估文本摘要忠实度/真实度/一致性的各种方法。可以看到不管是对于不同任务还是不同评价维度，较为普遍的趋势是趋向于大而统一：更大的元评估实验设定、更多的预训练、更大的模型、更统一的视角，等等等等。当下，GPT-4的出色表现引起热议，但是似乎构建更可控、可解释、鲁棒的文本生成指标仍然是一个开放问题，还有很长的路要走。下篇文章中，我们会探讨一下提升近期文本摘要的忠实性的相关工作。
CONFIT: Toward Faithful Dialogue Summarization with Linguistically-Informed论文阅读笔记
sdauguanweihong的博客
01-29 2019
论文链接 https://arxiv.org/abs/2112.08713 主要想法 这篇文章主要关注对话摘要中事实不一致性错误的问题，这篇文章通过实验标注的方法对对话摘要任务中的事实不一致性错误进行了一个详细的分类，分析了现有的预训练对话摘要模型的不足以及产生各种事实不一致问题的原因。针对这些事实不一致性的错误，这篇文章在fine-tuning阶段引入对比学习，帮助模型来认识到产生事实不一致性错误的原因，从而减少这些错误 事实不一致性错误的分类 文章首先使用当前的一些state of art的生成式对话摘
文档摘要平台---PKUSUMSUM
AI小白入门的博客
11-28 4951
介绍PKUSUMSUM是北京大学万小军老师团队开发的一款多文档摘要的java平台。 地址：http://www.icst.pku.edu.cn/lcwm/wanxj/pkusumsum.htm 论文：PKUSUMSUM: A Java Platform for Multilingual Document Summarization. In COLING 2016.PKUSUMSUM是一个用于自动
文本摘要相关论文汇总
MaggicalQ的博客
03-19 3111
awesome-text-summarization github地址：https://github.com/luopeixiang/awesome-text-summarization 这个仓库有对文本摘要的简单介绍，包括任务定义，类型，摘要评估方法等等， 同时整理收集了当前文本摘要方面常用的数据集以及相关最新论文， 适合想要快速上手了解文本摘要领域的人。 Table of Contents ...
Faithful32-1.7.10:1.7.10忠实32修改版的存储库
05-23
Faithful32-1.7.10修改版 寻找？ 描述： 忠实的32，带有mod支持：所有纹理均与原始样式匹配。 原始包装是由Vattic和一帮手制成的。 请在上方链接的论坛帖子的“赠送金额”部分下查看。 该存储库是一个完整的资源...
Fleet-of-the-Faithful-Knights:忠实骑士舰队的Monorepo
03-21
忠实骑士舰队 忠实骑士舰队（FFK）是一个星际公民组织，旨在...3.22.1 Webpack 5.10.1 拥有所有这些功能可确保您能够在回购中编译，构建和运行所有项目。 这是单行安装。请注意，这是全局安装。 npm i typescript
paper 记录
一介北漂
02-23 475
1.Hierarchical Attention Networks for Document Classification word encode char encode =>sentence encode ==>attented-sentence encode=>document encode==>softmax
java交易网站源码-PKUSUMSUM:首次发布PKUSUMSUM
06-05
java交易网站源码#自述文件 ##Introduction PKUSUMSUM（PKU's SUMmary of SUMmarization methods）是一个用于自动文档摘要的集成工具包。 支持单文档、多文档和以主题为中心的多文档摘要，工具包中实现了多种摘要方式。 用户可以方便地使用该工具包为文档或文档集生成摘要，并基于平台实现自己的摘要方法。 PKUSUMSUM 的主要特点包括： 它集成了稳定的各种摘要方法，性能足够好。 它支持三种典型的摘要任务，包括简单文档摘要、多文档摘要和以主题为中心的多文档摘要。 它支持西方语言（例如英语）和中文。 它集成了英语分词器、词干分析器和中文分词工具。 Java 平台可以轻松地分布在不同的操作系统平台上，如 Windows、Linux 和 MacOS。 它是开源的，采用模块化开发，使用户可以方便地在工具包中添加新的方法和模块。 PKUSUMSUM 的包包括 Jar 包、“/code”中的源代码和“/lib”中的引用库。 摘要方法与摘要任务的对应关系如下表所示： 方法 单文档摘要 多文档摘要 基于主题的多文档摘要 覆盖范围 —— 是的 是的 带
北京大学万小军教授，关于社交网络分析的综述介绍，很不错
11-30
北京大学万小军教授，计算机与互联网挖掘小组，关于社交网络分析的综述介绍，很不错
【工大SCIR笔记】事实感知的生成式文本摘要
zenRRan的博客
04-21 927
作者：哈工大SCIR 黄毅翀序言抽取式的文本摘要直接从原文中摘取完整的句子作为文章的摘要，如同按部就班的老实人，令人心安；生成式的文本摘要可以产生原文中没有的单词和短语，好比一位逍遥的江...
【读】自动文摘——预备
imsuhxz的博客
09-10 960
本文转载自： 自动文摘（一）、自动文摘（二）、自动文摘（三）、自动文摘（四） 目录 一、前言 Ideas Introduction Link 二、抽取式 Extractive Summarization 预处理 词、句表示 排序 后处理 输出 Link 三、难点 Abstractive Evaluation 人工评价 自动评价 重要性 四、生成式摘要 E...
NLP调研1 - 文本自动摘要概况
热门推荐
zz133110的博客
07-19 1万+
NLP调研1 - 文本自动摘要概况​ 本次调研内容，是围绕“文本自动摘要”进行的概要性调研。调研的主要内容为，自动摘要的类型、应用程序和摘要系统和摘要评价技术这三个方面。以任鑫涛学姐提供的北大研究成果PKUSUMSUM为基础，研究其实现过程和原理，随后通过查询相关资料，完善“文本自动摘要”知识的体系内容。  NLP调研1 - 文本自动摘要概况 概要 1 应用范围 2类型 基于抽取的摘要Extra
【LLM】大模型幻觉问题的原因和缓解方法
发现问题，并解决问题，批判性思维
10-03 4600
一、幻觉定义 备注（下面提及的两个名词）： Faithfulness：是否遵循input content； Factualness：是否符合世界知识； 传统nlp任务重，幻觉大多数是faithfulness，比如Intrinsic Hallucination（冲突），摘要内容和document内容有冲突；再比如Extrinsic Hallucination（无中生有），生成内容中包含input要求的其他杂七杂八虚假信息；但LLM应该考虑的幻觉Factualness，因为数据源是Open-doman的世界知
<知识库的构建> 5-1 事实提取 Fact Extraction
weixin_34005042的博客
01-29 157
引自Fabian Suchanek的讲义。 总结：介绍了DIPRE算法，即利用模式提取和模式应用实现事实提取来得到新fact，并不断把fact添加至KB，再得到新fact来使KB扩张，我们要清楚模式提取和模式应用的方法，及DIPRE算法可能遇到的的问题。 事实提取Fact Extraction：是从语料库提取事实的过程 这么做的原因：对于电脑来说文本很难懂incomprehen...
Get To The Point: Summarization with Pointer-Generator Networks
liuyingshudian的博客
11-20 856
seq2seq
C++第一天 1.0
m0_59466249的博客
08-21 362
一.hello world的书写 头文件#include 使用命名空间 ：using namespace std; 输出：cout<<想输出的内容<<endl; 如果屏幕一闪而过：system(“pause”); #define _CRT_SECURE_NO_WARNINGS #pragma warning(disable : 4996) #include<iostream> //标准输入输出流 in 输入 out 输出 using namespace std
Failed to connect to database: Error: Access denied for user 'root'@'localhost' (using password: YES)
最新发布
12-11
以下是一些可能的解决方案： ... 2. 确认该用户是否有足够的权限来访问该数据库，可以尝试授予该用户更高的权限。 3. 确认数据库是否已经启动并正在运行，可以尝试重启数据库。 4. 确认数据库是否已经配置为允许远程...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值