使用Encoder-Decoder模型自动生成对联的思路

最新推荐文章于 2024-07-27 23:49:57 发布
最新推荐文章于 2024-07-27 23:49:57 发布
阅读量3.1w 收藏 26
点赞数 14
分类专栏： 自然语言处理 深度学习 文章标签： 深度学习 自然语言处理 encoder decoder 对联
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/malefactor/article/details/51124732
版权
本文介绍了使用Encoder-Decoder模型自动生成对联的思路，由于对联的严格对仗性，该模型能较好地捕捉语言规律。文章讨论了两种情况：已知上联生成下联和完全自动生成对联，并提出了相应的解决方案。通过训练数据，模型可以学习对仗和平仄关系，生成的对联在保持形式规则的同时，语义一致性取决于训练数据的质量。
摘要由CSDN通过智能技术生成
/* 版权声明：可以任意转载，转载时请标明文章原始出处和作者信息 .*/

                                                     author: 张俊林



在我看到第一篇Encoder-Decoder模型的论文的时候，我就觉得用这个来作对联自动生成是再合适不过的了，做诗词应该也是比较适合的，但是相对诗词，用它来做对联肯定更合适。今天的文章就讲讲这方面的内容。这篇文章主体内容是2015年底形成的，本来我的打算是收集些训练数据，让Encoder-Decoder+Attention生成些对联把这篇文章补充些例子再发出去，不过因为精力原因，迟迟没有做这个实验，短期内可能也没时间做，所以干脆就现在分享出来，哪位有精力和兴趣可以实际做一下试试，这看上去没啥实际用处，但是还是挺好玩的一件事。不过我确信用这个模型做对联生成一定可以做好。


为什么说Encoder-Decoder模型适合作对联呢？因为相对诗词等任务来说，对联要求严格的上下联对仗，老话不是说了吗，以前儿童诗词启蒙时都要学一些对仗规则，比如：天对地，雨对风，大陆对长空，王八对绿豆，八戒对悟空（后面两句是本文作者诗才大发胡诌的，请未成年儿童切勿模仿或者在有大人监督场景下模仿@^^@）。这种严格的对仗关系意味着极强的映射规律性，而这个用RNN和Encoder-Decoder来说正好是能够发挥它们长处的地方，所以说Encoder-Decoder加上RNN配置是非常适合用来做对联的。


对联的严格对仗性可以给个小故事，大家直观感受下：


相传解缙少时家贫，其家有片对着地主家的一片竹林，于是他作了副对联：“门对千杆竹，家藏万卷书”。地主心说：我幼儿园肄业文凭，你在我面前你这么装有文化好吗？于是不爽，命人把竹子砍短，解缙灵机一动把对联加了一个字，改成：“门对千杆竹短，家藏万卷书长”。地主气不打一处来，放出功夫熊猫把竹子全吃了，解缙又改对联：“门对千杆竹短无，家藏万卷书长有”。气得地主直跳脚骂娘。


从这个故事我们可以归纳出中心思想就是：从古至今，有钱就是大爷，可以随便砍伐树木破坏生态而不被法律制裁@^^@…..不对，跑偏了，中心思想应该是：肄业的同学都容易创业成功，成为新时达的地主老财，而好好上学的大都免不了家贫的结局…..也不对，你看我这三观都歪到引力波都达不到的宇宙之外了，中心思想是：对联是有极强的对仗性的。而这种对仗性代表了什么？代表了语言单元之间极强的规律性，而这是非常适合通过机器来学习并容易做好的事情，这是为何我坚信用Encoder-Decoder做对联一定能够做好的原因。


|Encoder-Decoder模型


Encoder-Decoder框架可

最低0.47元/天 解锁文章
张俊林博客
关注
  • 14
    点赞
  • 踩
  • 26
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
专栏目录
Encoder-Decoder模型
qq_40319989的博客
11-16 2625
1.Encoder-Decoder模型及RNN的实现 所谓encoder-decoder模型，又叫做编码-解码模型。这是一种应用于seq2seq问题的模型。 那么seq2seq又是什么呢？简单的说，就是根据一个输入序列x，来生成另一个输出序列y。seq2seq有很多的应用，例如翻译，文档摘取，问答系统等等。在翻译中，输入序列是待翻译的文本，输出序列是翻译后的文本；在问答系统中，输入序列是提出的问题，而输出序列是答案。 这里复习下Sequence2Sequence任务到底是什么，所谓的Sequence2Seq
Encoder-Decoder
qq_47537678的博客
12-14 4957
2021SC@SDUSC 为了更好的理解模型代码，进行的相关知识补充学习 Encoder-Decoder （以下借鉴网络博客内容） 模型主要是 NLP 领域里的概念。它并不特值某种具体的算法，而是一类算法的统称。Encoder-Decoder 算是一个通用的框架，在这个框架下可以使用不同的算法来解决不同的任务。 Encoder-Decoder 这个框架很好的诠释了机器学习的核心思路： 将现实问题转化为数学问题，通过求解数学问题，从而解决现实问题 文章目录Encoder-Decoder前言Seq2Seq
Encoder和Decoder
for_balanced的博客
04-18 616
encoder记忆和理解信息，并进行信息提炼。相对于输入，通常会形成一个低秩的向量。 decoder回忆与运用这些信息，将低秩的加工后的信息抽取出来，这时也可以混合其它信息，解码成需要用的形式。 ...
编解码器架构
最新发布
qq_58317297的博客
07-27 631
0、机器翻译是序列转换模型的一个核心问题， 其输入和输出都是长度可变的序列。1、“编码器－解码器”架构可以将长度可变的序列作为输入和输出，因此适用于机器翻译等序列转换问题。（encoder）： 它接受一个长度可变的序列作为输入， 并将其转换为具有固定形状的编码状态。2、编码器将长度可变的序列作为输入，并将其转换为具有固定形状的编码状态。"""编码器-解码器架构的基本编码器接口""""""编码器-解码器架构的基本解码器接口""""""编码器-解码器架构的基类"""（encoder-decoder）架构。
Encoder与Decoder
kaggle expert，全球排名前1000，清华计算机研究生，兴趣算法工程
10-08 957
AutoEncoder属于无监督学习的技术，其思想影响深远。 可以参考以下几个文章，感觉都不错 从经典autoencoder介绍到卷积autoencoder https://blog.csdn.net/leida_wt/article/details/85052299
【Encoder-Decoder】
CharilePuth的博客
02-10 4431
Ecoder and Decoder
seq2seq对联生成解读【DAY 3】--seq2seq模型的构造(decoder)
rory0114的博客
03-18 982
文章目录1 源码2 代码解析2.1 attention_decoder_cell2.2 decoder_projection2.3 train_decoderinfer_decoder 1 源码 仍然是seq2seq.py程序的一部分，今天主要学习decoder部分。 def attention_decoder_cell(encoder_output, in_seq_len, num_unit...
AI对联生成案例（一）
2301_81887304的博客
01-21 1729
本案例使用深度学习的方法，利用常见的机器翻译模型，构建了一个智能对联生成的微信小程序。由于前馈神经网络的输入都是一批静态数据，无法处理对于随着时间变化的连续数据，或者说无法捕捉时间序列的关系，因此科学家提出了循环神经网络（RNN，Recurrent Neural Network），通过连接多个前馈神经网络的隐藏层，从而获取每个相邻时间步之间的联系。LSTM主要解决了RNN中容易出现的梯度爆炸和梯度消失的问题，而GRU在LSTM的基础上，做了进一步的简化，但它们始终是基于RNN的算法，十分地消耗计算资源。
AI对联生成案例(二）
2301_81887304的博客
01-22 1530
由于小程序的其余实现部分涉及比较多的开发知识，超出了NLP的范畴，因此我们不再详细介绍，而是在该部分简单讲解其实现思路，对上层应用开发感兴趣的同学可以参考并实现。：将要执行的 方法，比如：train， train_and_evaluate， continuous_train_and_eval，train_eval_and_decode， run_std_server。首先，我们为了找出能准确描述图片内容的tag，我们取了返回结果中和中都存在的tag作为对图片描述的tag。
基于深度学习的春联自动生成系统 实验记录
qq_45069794的博客
01-06 1350
前言：想了好久，还是想把毕业设计拿出来写一下，整理一下，给大家提供一下新思路（maybe？），而且模型结果有问题，希望能够得到指点。 第一次写文章，很多地方还不成熟、也很有可能有错误，也欢迎大家批评指正。 下面开始正题： 本文主要内容讲述了《基于深度学习的春联自动生成系统》的实现，描述了将Attention和seq2seq框架相结合的模型构建思路；在数据集构造方面从分词、编码和数据安排上对构建思路进行阐述，并且对实验中出现的问题进行分析，提出了解决方法的设想。
【Transformer系列（1）】encoder（编码器）和decoder（解码器）
路人贾的博客
04-15 2万+
一文带你学会encoder-decoder框架
Encoder-Decoder模型和Attention模型
u011734144的专栏
05-07 9000
Encoder-Decoder模型及RNN的实现Encoder-Decoder（编码-解码）是深度学习中非常常见的一个模型框架，比如无监督算法的auto-encoding就是用编码-解码的结构设计并训练的；比如这两年比较热的image caption的应用，就是CNN-RNN的编码-解码框架；再比如神经网络机器翻译NMT模型，往往就是LSTM-LSTM的编码-解码框架。因此，准确的说，Encode...
Encoder-Decoder 框架
qq_53582111的博客
03-26 4990
一、Encoder-Decoder 框架的结构 Encoder-Decoder 框架可以看作是一种深度学习领域的研究模式，应用场景异常广泛。下 图是文本处理领域里常用的 Encoder-Decoder 框架最抽象的一种表示。 令： 注意：Source和Target可以是同一种语言也可以是不同种语言 Encoder 就是对输入句子 Source 进行编码，将输入句子通过非线性变换转化为中 间语义表示 C： 对于解码器 Decoder 来说，其任务是根据句子 Source 的中
神经网络算法 ：一文搞懂 Encoder-Decoder（编码器-解码器）
2401_84033492的博客
04-01 9805
本文将从Encoder-Decoder的本质、Encoder-Decoder的原理、Encoder-Decoder的应用三个方面，带您一文搞懂Encoder-Decoder（编码器-解码器）。
Encoder-Decoder综述理解(推荐)
热门推荐
秋水顽石
03-12 5万+
文章目录一、Encoder-Decoder（编码-解码）介绍几点说明信息丢失的问题应用二、Seq2Seq（序列到序列）介绍Seq2Seq与Encoder-Decoder代码实现 一、Encoder-Decoder（编码-解码） 介绍 Encoder-Decoder是一个模型构架，是一类算法统称，并不是特指某一个具体的算法，在这个框架下可以使用不同的算法来解决不同的任务。首先，编码（encode）由...
Encoder和Decoder的详细介绍
xw555666的博客
02-26 4087
在深度学习中，编码器通常与解码器（Decoder）配对使用，构成了自编码（Autoencoder）或者编码-解码模型（Encoder-Decoder Model）。在这种模型中，编码器负责将输入数据映射到潜在空间中的表示，而解码器则将这种表示映射回原始数据空间。
Encoder-Decoder架构
diannao720的博客
08-08 973
解码器是一个生成模型，它根据编码器生成的表示向量和之前生成的部分输出序列，逐步生成最终的输出序列。通常，编码器使用循环神经网络（例如，长短时记忆网络，LSTM）或者Transformer编码器来逐步处理输入序列，每一步都考虑上下文信息，并逐渐构建出表示向量。给定输入序列和对应的目标输出序列，模型的目标是最小化生成序列与目标序列之间的差异（通常使用交叉熵损失函数）。总之，Encoder-Decoder架构是一种常见的神经网络模型架构，由编码器和解码器组成，用于将输入序列转换为输出序列。
Encoder——Decoder工作原理与代码支撑
weixin_44528463的博客
05-08 1317
这篇文章写的不错，从定性的角度解释了一下，什么是编码器与解码器，我再学习+笔记补充的时候，讲一下原理+代码实现。以下是一个不错的PPT图。
Encoder-Decoder模型有几种
06-12
Encoder-Decoder模型是一类将一个序列转换成另一个序列的神经网络模型，其主要由两个部分组成：编码器（Encoder）和解码器（Decoder）。根据不同的具体实现方式和应用场景，可以有多种不同类型的Encoder-Decoder模型。 以下是几种常见的Encoder-Decoder模型： 1. 基于循环神经网络（RNN）的Encoder-Decoder模型，如常用的Seq2Seq模型。这种模型使用RNN作为编码器和解码器，能够很好地处理序列数据，应用广泛。 2. 基于卷积神经网络（CNN）的Encoder-Decoder模型，如U-Net模型。这种模型广泛应用于图像分割、语音识别等领域，可以有效地处理空间结构数据。 3. 基于自注意力机制的Encoder-Decoder模型，如Transformer模型。这种模型利用自注意力机制可以在不使用RNN的情况下进行序列建模，应用广泛于机器翻译等领域。 此外还有一些特定的Encoder-Decoder模型，如Variational Auto-Encoder（VAE）等，用于生成模型等任务。不同的Encoder-Decoder模型适用于不同的任务和数据类型，具体选择需要根据应用场景和数据特点来确定。
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值