使用GAN+RL来进行关键词生成

最新推荐文章于 2024-11-06 01:30:34 发布
最新推荐文章于 2024-11-06 01:30:34 发布
阅读量444 收藏 1
点赞数
分类专栏： 日常论文阅读 文章标签： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_37789800/article/details/115405307
版权
本文介绍了首个利用条件GAN在科学文章中生成关键词的方法，着重于解决absent关键词生成问题。研究者通过对比摘要生成模型，展示了GAN在区分机器生成和人工评估上的能力。模型包括双向GRU编码器和单向GRU解码器的猫序列模型，以及利用注意力机制的鉴别器。实验结果显示GAN在生成缺失的关键词上表现出显著优势。
摘要由CSDN通过智能技术生成

题目： Keyphrase Generation for Scientific Articles Using GANs (Student Abstract)
网址：https://www.aclweb.org/anthology/2020.emnlp-main.645.pdf
https://ojs.aaai.org//index.php/AAAI/article/view/7238
代码地址：https://github.com/avinsit123/keyphrase-gan
上面这两个网址的论文其实都是指的这篇文章，不过如果想要详细了解还是看emnlp那篇吧，毕竟篇幅较长，
前沿： 文章不长，分析也不是足够多，主要是在关键词生成领域第一个使用GAN来进行关键词生成的，文章中称主要贡献点应该在absent上面，也就是说GAN网络对于absent的关键词生成有较大帮助，但是对于present kp效果一般。

摘要：
使用条件GAN来进行关键词生成任务，GAN任务能够基于title和摘要去进行关键词生成，区别器能够区别机器生成和人为评定。

介绍： 作者其实是拿摘要生成领域的模型和关键词领域的模型做对比，然后去进行对比，哎，我当时怎么没想到呢？

模型介绍：
Generator
catSeq模型，使用encoder-decoder架构，其实编码器部分使用双向GRU，译码器部分使用单向GRU，其中应用copy机制，增加attention。
Discriminator
对原文本进行编码，然后对关键词进行编码，利用Luong的attention网络实现用关键词作为q得到的c，然后回得到一个concat向量
然后经过一个双向GRU，取最后状态向量进行做二分类任务。
在这里插入图片描述

GAN train
首先利用true sample 训练生成器，然后利用生成器生成的KP和true KP去一起训练Discriminator。
然后固定Discriminator的参数去利用策略策略梯度强化学习方式更新Generation的生成。

results:
在这里插入图片描述

柳絮飘飞123
关注
专栏目录
TPAMI 2024 | 基于图掩码建模的图变换器生成对抗网络用于建筑布局生成
小白学视觉
07-17 179
我们提出了一种新颖的图变换器生成对抗网络（GTGAN），用于端到端学习有效的图节点关系，以解决具有挑战性的图约束建筑布局生成任务。所提出的基于图变换器的生成器包括一个新颖的图变换器编码器，该编码器结合了图卷积和自注意力机制，以模拟连接和未连接图节点之间的局部和全局交互。具体来说，我们提出的连接节点注意力（CNA）和非连接节点注意力（NNA）旨在分别捕获输入图中连接节点和非连接节点的全局关系。此外，我们提出的图建模块（GMB）旨在基于房屋布局拓扑利用局部顶点交互。
AIGC从入门到实战：利用 ChatGPT 分析和跟踪算法代码，让它帮你探路
AI天才研究院
09-09 630
AIGC从入门到实战：利用 ChatGPT 分析和跟踪算法代码，让它帮你探路 1. 什么是AIGC？ 题目： 请简述AIGC是什么？ 答案： AIGC是“A
TextBoxGan:使用GAN从输入单词生成文本框
04-04
文本框 通过生成的对抗网络从输入的单词生成文本框。 视频：在不同的培训步骤中生成“生成”一词： ： 图1：使用我们的模型生成“具有相同样式的单词”的不同示例 内容 ： 经过训练的模型：经过预先训练的模型（有关该模型的更多详细信息，请参见“部分）。 将该目录放置在目录中。 要使用它，请将EXPERIMENT_NAME = None替换为EXPERIMENT_NAME = "trained model" ，并确保文件中的cfg.resume_step = 225000 。 aster_weights ：转换为tf2的 OCR的权重。 将此目录放置在项目的根目录下。 训练模型，运行投影仪和推断测试集是必需的。 perceptual_weights ：感知损失的权重，使用回购从pytorch转换而来。 将此目录放置在目录中。 运行投影仪是必需的。 构建码头工人 docker build
深度学习知识点整理（四）——GAN / 强化学习RL
zhr1030635594的博客
06-30 2571
11-GAN 基本思想（方法） 初始化一个生成器G判别器D，每一次迭代， step1（先固定G，训练D）：G生成一组图片，再从数据库采样真实图片，用这两组对D进行训练，目标是使D对真实图片的评分高，而对G生成的图片的评分低 step2（固定D，训练G）：G+D构成大网络，G产生图片，D对其识别评分，以此对G进行训练，使得输出数值越大越好 结构学习 Structured learning 传统机器学习可以表示为函数，即X与Y关系（如回归、分类），忽略成分之间的关系 结构学习具有挑战性，机器需要有大局意识和规划
推荐文章：RL-GAN-Net——实时点云形状补全的强化学习利器
gitblog_00623的博客
08-24 964
推荐文章：RL-GAN-Net——实时点云形状补全的强化学习利器 RL-GAN-Net项目地址:https://gitcode.com/gh_mirrors/rl/RL-GAN-Net 项目介绍 在计算机视觉领域，处理不完整数据并恢复其完整形态一直是一个挑战。RL-GAN-Net，作为CVPR 2019上的一大亮点，巧妙地融合了强化学习与生成对抗网络（GAN），为点云形状的实时补全提供了一个创新...
RL-GAN Net -- 首个将强化学习与GAN结合的网络
li1194094543的博客
10-22 8115
线性回归欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导入 欢迎使用Markdown编辑...
GAN︱生成模型学习笔记（运行机制、NLP结合难点、应用案例、相关Paper）
素质云笔记
01-08 2万+
我对GAN“生成对抗网络”（Generative Adversarial Networks）的看法： 前几天在公开课听了新加坡国立大学【机器学习与视觉实验室】负责人冯佳时博士在【硬创公开课】的GAN分享。GAN现在对于无监督图像标注来说是个神器，不过在NLP领域用的还不是那么广泛。 笔者看来，深度学习之前都没有对数组分布进行细致考察，譬如之前我对NLP词向量就产生过很多疑虑，为啥这么长条
强化学习在生成对抗网络文本生成中扮演的角色（Role of RL in Text Generation by GAN）（下）...
weixin_33973600的博客
10-24 250
5. 一些细节 + 一些延伸 上文所述的，只是 RL + GAN 进行文本生成的基本原理，大家知道，GAN在实际运行过程中任然存在诸多不确定因素，为了尽可能优化 GAN 文本生成的效果，而后发掘更多GAN在NLP领域的潜力，还有一些值得一提的细节。 5.1. Reward Baseline：奖励值上的 Bias 在4.2节中提到，我们采用鉴别器D给予生...
CrystalGAN：跨域学习用于高阶复杂材料的生成对抗网络方法
CrystalGAN：使用生成对抗网络Asma Nouira1，Nataliya Sokolovska2，Jean-Claude Crivello11University Paris Est，ICMPE（UMR7182）CNRS，UPEC，F-94320 Thiais，France2巴黎索邦大学营养组学研究小组，法国摘要...
AI进展的意义与未来展望
最新发布
AI天才研究院
11-06 218
《AI进展的意义与未来展望》 关键词：人工智能，AI进展，深度学习，自然语言处理，伦理问题，未来展望 摘要：本文将深入探讨人工智能的进展及其对各个领域的意义，分析当前AI面临
AI人工智能核心算法原理与代码实例讲解：元学习
AI天才研究院
11-04 1006
AI人工智能核心算法原理与代码实例讲解：元学习 关键词：AI、人工智能、深度学习、神经网络、卷积神经网络、循环神经网络、生成对抗网络、强化学习、元学习 摘要：
CNN,DNN,RNN,GAN,RL+图像处理常规算法(未完待续)
qq_43594926的博客
12-04 2171
好的，让我们先介绍一些常见的神经网络模型，然后再讨论图像处理的常规算法。
论文阅读“RL-GAN-Net: A Reinforcement Learning Agent Controlled GAN Network for Real-Time Point Cloud Sh”
qq_42613078的博客
11-10 2691
RL-GAN-Net: A Reinforcement Learning Agent Controlled GAN Network for Real-Time Point Cloud Shape Completion题目作者代码引言 题目 RL-GAN-Net: A Reinforcement Learning Agent Controlled GAN Network for Real-Time Point Cloud Shape Completion RL-GAN-Net:一种用于实时点云形状完成的强化学
RL-GAN-Net 开源项目教程
gitblog_00662的博客
08-22 334
RL-GAN-Net 开源项目教程 RL-GAN-Net项目地址:https://gitcode.com/gh_mirrors/rl/RL-GAN-Net 项目介绍 RL-GAN-Net 是一个结合了强化学习（RL）和生成对抗网络（GAN）的开源项目。该项目旨在通过强化学习算法来优化生成对抗网络的训练过程，从而提高生成模型的性能和稳定性。RL-GAN-Net 主要应用于图像生成、数据增强和模型优...
GAN+文本生成：让文本以假乱真
热门推荐
洋葱专栏-有灵魂的程序员
05-23 4万+
转载：https://zhuanlan.zhihu.com/p/36880287?utm_source=wechat_timeline&utm_medium=social&utm_oi=623434717970698240&from=timeline&isappinstalled=0&wechatShare=1 论文一、《Generative Advers...
DeepLearing:GAN生成式对抗网络
weixin_43771204的博客
11-11 3841
GAN 生成对抗网络 一、介绍 ​ GAN这一概念是由Lan Goodfellow于2014年提出，GAN被深度学习先驱之一的Yann LeCun称为“数十年来机器学习领域最有趣的想法。”原始GAN论文的链接为：https://link.zhihu.com/?target=https%3A//arxiv.org/pdf/1406.2661.pdf ​ 我们知道CNN、RNN是通过建立图像与输出之间的关系来判断结果的一种网络映射。而GAN却是通过利用毫无意义的随机数据凭空捏造结果而非建立数据与输入映射关系..
【转】RL-GAN For NLP: 强化学习在生成对抗网络文本生成中扮演的角色
imsuhxz的博客
09-17 4549
本文转载自： https://zhuanlan.zhihu.com/p/29168803 目录 【导读】本文全面系统性梳理介绍了强化学习用于发掘GAN在NLP领域的潜力，请大家阅读。 1. 基础：文本生成模型的标准框架 2. 问题：GAN为何不能直接用于文本生成 2.1. GAN基础知识 2.2. GAN面对离散型数据时的困境（啥是离散型数据？） 3. 过渡方案：对于GAN的直接改...
继上一次GAN应用于NLP的讨论的后续讨论
加勒比海鲜王
08-27 1686
保留初心，砥砺前行 这是上一次GAN for NLP的讨论记录，需要的同学拿去享用： 记录一次与大神们的关于GAN应用于NLP的讨论这次的讨论可能是因为题目不够大众，或者是做这方面的同学们太过羞涩，因此讨论的内容基本偏题，最后形成了大家自由讨论的局面。但是只要仔细观察，是可以看到其中是有着耀眼的闪光点的，至少对于我来说是这样的。重申以下观点： 下边的讨论问题与解答有些是文不对题的，首先是因为按照
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值