文本生成的论文追溯：Seq2seq，VAE，GAN

最新推荐文章于 2024-10-10 06:56:21 发布
最新推荐文章于 2024-10-10 06:56:21 发布
阅读量1.5k 收藏 10
点赞数 1
分类专栏： 阅读论文
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_18310041/article/details/88688638
版权
本文探讨了深度学习在文本生成领域的进展，重点介绍了Seq2seq模型在新闻标题、对话生成等方面的应用，以及VAE如何通过连续空间生成句子，并利用语言作为潜在变量进行句子压缩。此外，还讨论了GAN在文本生成领域的初试啼声以及如何通过结合VAE实现属性可控的文本生成，以及LeakGAN在高效生成长文本上的贡献。
摘要由CSDN通过智能技术生成

Seq2seq

《Recent Advances on Neural Headline Generation》 JCST 2017

《A Neural Conversational Model》 ICML 2015

《Topic Aware Neural Response Generation》 AAAI 2017 

《A persona-Based Neural Conversation Model》 ACL 2016

《Incorporating Copying Mechanism in Sequence-to-Sequence Learning》 ACL 2016

《Context-aware Natural Language Generation with Recurrent Neural Networks》 AAAI 2016

《Learning to Generate Product Reviews from Attributes》 EACL 2017

 

VAE:

 

  • 《Generating Sentences From a Continuous Spaces》. ICLR 2016

  • 《Neural Variational Inference for Text Processing》. ICML 2016

  • 《Language as a Latent Variable: Discrete Generative Models for Sentence Compression》. EMNLP 2016

  • 《A Hierarchical Latent Variable Encoder-Decoder Model for Generating Dialogues》. AAAI 2017

 

GAN:

GAN 的首次提出

（

最低0.47元/天 解锁文章
姬香
关注
专栏目录
文本生成(Text Generation) 原理与代码实例讲解
AI架构设计之禅
09-10 572
文本生成(Text Generation) - 原理与代码实例讲解 作者：禅与计算机程序设计艺术 / Zen and the Art of Computer Programming 1. 背景介绍 1.1 问题的由来
Andrej Karpathy：计算范式的变革者
最新发布
AI天才研究院
10-13 720
《Andrej Karpathy：计算范式的变革者》 概述 本文旨在全面探讨 Andrej Karpathy 在计算范式变革中的角色和贡献。Andrej Karpathy 是一位世界级的人工智能专家，程序员，软件架构师，CTO，同时也是计算机图灵奖获得者，计算机编程和人工智能领
VAE for 文本生成
u011613991的专栏
03-22 7544
VAE详解：https://spaces.ac.cn/archives/5253 变分自编码器（Variational auto-encoder，VAE）是一类重要的生成模型（generative model），它于2013年由Diederik P.Kingma和Max Welling提出[1]。2016年Carl Doersch写了一篇VAEs的tutorial[2]，对VAEs做...
考虑VAE来实现不同条件下的文本生成
带你飞
03-26 1021
题目 Pre-train and Plug-in: Flexible Conditional Text Generation with Variational Auto-Encoders 作者： 这是一篇由阿里，武汉大学，芝加哥大学，美国亚马逊联合出品 **前言：**应该是真大佬之间的合作，哎十分羡慕啊。言归正传，我之前基本一直没怎么接触VAE，最多只是看过一些博客介绍，这篇文章应该算是我对VAE的一次全面了解，初始感觉，VAE强啊，本文做的是有条件的文本生成任务，基于VAE去做文本隐含分布映射，然后通过给
72_text_generation\vae-seq2seq
qq_15821487的博客
08-28 183
NLLLoss class torch.nn.NLLLoss(weight=None, size_average=None, ignore_index=-100, reduce=None, reduction=‘elementwise_mean’) 功能： 不好用言语描述其功能！请看计算公式：loss(input, class) = -input[class]。举个例，三分类任务，input=[-1.233, 2.657, 0.534]， 真实标签为2（class=2），则loss为-0.534。就是对应类
可控文本生成
refaver的博客
09-07 2734
文章链接：http://pdfs.semanticscholar.org/efbc/200feab74e5087c4005d8759e5dadb3a3077.pdf 1)  文本生成过程：通过VAE网络重建输入文本。 2）模型对生成信息的控制： 2.1）在VAE网络的隐藏层中加入unstructure变量c，作为attribute的信息输入。 2.2）模型中加入了discriminator
text-generation-GAN:有条件的SeqGAN，用于生成以特定情感为条件的文本。 斯坦福情绪树银行。 CS 224U最终项目
05-14
seqgan文本张量流 使用RNN生成文本的SeqGAN实现。 链接 样本 默认情况下，该模型是在某些lorem ipsum文本上训练的。 仅在最小批处理1000之后，该模型就会生成看起来像lorem的输出： en eros ells at malesuada portere eget Prlesent eellus egem ntum eget eel nec eel us. Nullam eu t mattis on nisl eed euem eget vellus et malesuada Num eu melles eg meliuenium el malesuada au eel uentum et Ned erit est s erat euismod eu malesuada Nulla velis velitelis eget libero Nu
PQ-NET：面向三维形状的零件生成的Seq 2Seq网络
1RGB图像深度图部分形状PQ-NET：一种面向三维形状的零件生成Seq 2Seq网络吴润娣1庄 义新1徐凯2张浩3陈宝泉11北京大学计算前沿研究中心2国防科技大学3西蒙弗雷泽大学“由成分识别（RBC）提供的对象感知的特征与当前...
生成对抗网络——研讨会
qq_36820823的博客
12-03 1832
希望简单介绍作者的成长背景，为大家提供借鉴，学习别人的成长路径，如何规划自己的学术生涯，以及如何做出开创性的工作，当时是什么情况，是如何想到的。GAN的作者Ian J. Goodfellow是一名加州长大的美国人，被誉为"GAN之父"。目前谷歌学术的引用已经到了27w，目前是任职于谷歌的DeepMind，之前在苹果担任ML部门的总监，离职部分原因是需要在办公室上班，目前在goolge可以继续远程办公。其代表性的工作，GAN和Deep Learning《花书》已经达到6w的引用次数。
AIGC应用开发全流程
AI天才研究院
10-10 1179
AIGC，即人工智能生成内容（Artificial Intelligence Generated Content），是指通过人工智能技术，特别是深度学习算法，自动生成文本、图像、音频等多样化内容的技术和过程。与传统的手动内容创作相比，AIGC具有高效性、多样性和灵活性，可以在短时间内生成大量高质量的原创内容。本章对AIGC的基础知识进行了全面的介绍，包括其定义、发展背景、核心价值、技术架构和应用领域。通过本章的学习，读者可以初步了解AIGC的基本概念和技术原理，为后续章节的深入学习打下基础。
第2篇：深度学习基础：原理、技术细节与应用场景
Gemini的博客
07-02 173
深度学习是一种通过多层神经网络结构来模拟人脑进行数据分析和模式识别的机器学习方法。与传统的机器学习方法不同，深度学习能够自动提取数据中的高级特征，减少了对手工设计特征的依赖。其核心在于使用大量的数据和强大的计算能力来训练深层神经网络，从而实现对复杂问题的解决。
VAE模型的应用：从图像到文本生成
AI天才研究院
12-30 1149
1.背景介绍 随着大数据时代的到来，数据的生产和收集速度远超人类的处理能力。因此，人工智能（AI）技术的发展成为了关键。人工智能的一个重要分支是深度学习，它能够自动学习和优化模型，从而实现智能化。在深度学习中，变分自编码器（Variational Autoencoder，VAE）是一种强大的模型，它既可以用于图像生成，也可以用于文本生成。本文将详细介绍
基于 VQVAE 的长文本生成
zenRRan的博客
11-25 623
每天给你送来NLP技术干货！本期分享者：杨二光北京交通大学自然语言处理实验室四年级博士生，导师为张玉洁教授，研究方向为可控文本生成、复述生成、故事生成。在澜舟科技实习期间主要从事长文本生成、营销文案生成等课题。来自：澜舟科技写在前面近年来，多个大规模预训练语言模型 GPT、BART、T5 等被提出，这些预训练模型在自动文摘等多个文本生成任务上显著优于非预训练语言模型。但对于开放式生成任务，如故事生...
SeqGAN
Forlogenの解忧杂货铺
07-10 1199
论文地址：https://arxiv.org/abs/1609.05473 GitHub：https://github.com/LantaoYu/SeqGAN [python2] https://github.com/princewen/tensorflow_practice/tree/master/GAN/seqgan [python3] 收录于：AAAI 2017 GAN已经在视觉领域取得了...
文本生成
ShangYT的专栏
09-05 416
参考http://www.mooc.ai/course/427/learn?lessonid=2631&groupId=45#lesson/2631
poem_generation:用于测试文本生成方法（例如LSTM，VAE等）和不同转换器的存储库
03-06
NLP-诗歌 在过去的十年中，自然语言处理（NLP）的发展非常Swift。 这是一个非常复杂的领域，并且一直在进步。 此回购旨在针对特定类型的语料诗尝试一些NLP任务和算法。 这些诗是从刮下来的，可以在找到刮取的代码 任务类型 使用此存储库中的ata可以执行两个主要任务： 文本生成-生成诗歌 文本分类-对主题或诗歌形式进行分类 数据集 该数据集由两个文件夹组成，两个文件夹都包含诗歌的子文件夹。 这些诗歌按形式（例如句，十四行诗等）或主题（爱，自然，欢乐，和平等）分类。 由于数据采用这种结构，因此对于诸如fastai或keras之类的API而言，获取文本文件非常简单。 诗的产生 使用变形金刚可以很容易地生成诗歌。 也可以从头开始构建模型并在诗歌中对其进行训练，但是前者则更容易，更快捷，因为它只需要您微调模型即可。 上有很多变压器，其中如何加载的说明。 还有一个非常出色的用于使用转换器生
AIGC从入门到实战：焦虑？AIGC 时代下的职业该如何规划
AI架构设计之禅
07-16 594
近年来，随着人工智能技术的飞速发展，AIGC（AI Generated Content，人工智能生成内容）逐渐走进了大众视野，并以惊人的速度渗透到各行各业。从文本创作、图像生成到视频剪辑，AIGC 正以其强大的内容创作能力，改变着我们的生活和工作方式。AIGC 的出现，在为我们带来便利的同时，也引发了不少人的焦虑。许多人担忧，AIGC 会取代人类工作，导致大规模失业。面对 AIGC 的冲击，我们该如何规划自己的职业生涯，才能在未来竞争中立于不败之地？
51-2 万字长文，深度解读端到端自动驾驶的挑战和前沿
AIgraphX
02-19 3155
自动驾驶社区见证了采用端到端算法框架的快速增长，这些方法利用原始传感器输入来生成车辆运动规划，而不是专注于检测和运动预测等单个任务。我们对250多篇论文进行了全面分析，深入研究了几个关键挑战，包括多模态、可解释性、因果混淆、稳健性和世界模型等，还讨论了大模型和视觉预训练的当前进展，以及如何将这些技术纳入端到端的自驾框架。
VAE在自然语言处理中的应用：文本生成、对话系统
AI天才研究院
07-03 5280
作者：禅与计算机程序设计艺术 VAE在自然语言处理中的应用：文本生成、对话系统 . 随着1.1. 背景1.1. 本文将介绍如何使用VAE（Variational Autoencoder）在自然语言处理（NLP）中的应用，以及如何实现文本生成和对话系统。在继续阅读
VAE在文本生成中的应用：自动编码器和解码器设计
AI天才研究院
07-06 3665
作者：禅与计算机程序设计艺术 3.VAE在文本生成中的应用：自动编码器和解码器设计 作为一名人工智能专家，程序员和软件架构师，CTO，我今天将为大家分享一篇关于VAE在文本生成中的应用：自动编码器和解码器设计的深度有思考有见解的技术博客文章。文章将介绍VAE的
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值