C-RNN-GAN: Continuous recurrent neural networks with adversarial training 2016
Abstract
生成对抗网络已被提出作为一种有效训练深度生成神经网络的方法。我们提出了一种生成对抗模型,它适用于连续的序列数据,并通过在古典音乐集合上训练它来应用它。我们得出的结论是,随着模型的训练,它生成的音乐听起来越来越好,报告生成的音乐的统计数据,并让读者通过下载生成的歌曲来判断质量。
1 Introduction
我们提出了一种循环神经网络架构C-RNN-GAN(连续RNN-GAN),它经过对抗性训练来建模序列的整个联合概率,并能够生成数据序列。我们的系统通过在中等格式的古典音乐序列上进行训练来证明,并使用音阶一致性和音域等指标进行评估。
我们得出的结论是,生成式对抗训练是一种可行的训练网络的方式,它可以对连续数据序列上的分布进行建模,并看到了对许多其他类型的连续数据建模的潜力。
2 C-RNN-GAN: A continuous recurrent network with adversarial training
该模型是一种带有对抗训练的递归神经网络。对手是两个不同的深度循环神经模型,一个生成器(G)和一个鉴别器(D)。生成器被训练来生成与真实数据难以区分的数据,而鉴别器被训练来识别生成的数据。训练变成了一个零和游戏,其中纳什均衡是当生成器产生的数据鉴别器无法从真实数据中区分出来。我们定义如下损失函数LD和LG: