CGMH: Constrained Sentence Generation by Metropolis-Hastings Sampling

68 篇文章 2 订阅
60 篇文章 1 订阅
CGMH是一种使用Metropolis-Hastings采样进行受约束句子生成的方法,它能处理硬性和软性约束,如在生成的句子中必须包含特定关键词。与基于RNN的方法相比,CGMH允许更复杂的约束,并且在推理阶段工作,不需要平行语料。CGMH在关键词到句子生成、无监督句子改写和无监督错误修正等任务上表现出色,且无需有监督训练数据。此外,CGMH能够通过局部操作(替换、插入和删除)生成句子,通过接受率和预先指定的稳态分布来确保约束得到满足。
摘要由CSDN通过智能技术生成

Abstract

在自然语言生成的实际应用中,除了流畅度和自然度的要求外,通常还有一些其他的约束

已有的一些语言生成技术基于 RNN 实现,对于这类方法,不容易在维持生成质量的同时对其添加约束。

文本提出 CGMH,通过 Metropolis-Hastings sampling 来实现 受约束的句子生成

  • CGMH 允许施加复杂的约束,如要求在生成的句子中必须出现多个关键词,这在传统基于 RNN 的方法中是无法做到的。
  • CGMH 是在推理阶段工作的,因此不需要平行语料来训练。

我们在几种任务上对我们的方法进行了评估,包括:

  • keywords-to-sentence generation
  • unsupervised sen- tence paraphrasing
  • unsupervised sentence error correction

相比于之前的有监督方法,CGMH 实现了很好的句子生成效果。

代码:

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值