sikh_0529的博客

喜欢与所有 GAN 相比，MuseGAN 由一个生成器和一个评论家组成。生成器试图用它的音乐创作来愚弄评论家，而评论家则试图通过确保它能够分辨出生成器伪造的巴赫合唱曲与真实作品之间的区别来防止这种情况发生。MuseGAN 的不同之处在于，生成器不仅接受单个噪声向量作为输入，而是有四个独立的输入，对应于故事中管弦乐队的四个部分——和弦、风格、旋律和槽。通过独立操作这些输入中的每一个，我们可以更改生成音乐的高级属性。图7.14 显示了生成器的高级视图。图7.14 MuseGAN 生成器的高级图。

在本章中，您将：从概念上了解注意力机制如何模仿我们对句子中某些词的重视程度高于其他词的方式从第一原则深入研究注意力机制的工作原理，包括如何创建和操作查询、键和值了解因果掩蔽对于文本生成任务的重要性了解如何将注意力头分组为多头注意力层查看多头注意力层如何构成 Transformer Block 的一部分，其中还包括层归一化和跳过连接创建位置编码，捕获每个标记的位置以及词标记嵌入。在 Keras 中构建一个 Transformer，以生成葡萄酒评论。

在本章中，您将：了解标准化流动模型如何利用变量方程的变化了解 Jacobian 如何在我们计算显式密度函数的能力中发挥重要作用了解我们如何使用耦合层来限制雅可比行列式的形式。查看神经网络如何设计为可逆的构建 RealNVP 模型 - 规范化流程生成 2D 点的特定示例使用 RealNVP 模型生成新的点，这些点似乎是从数据分布中提取的了解 RealNVP 模型的两个关键扩展——GLOW 和 FFJORD本节前面的章节介绍了生成模型的三个家族——变分自动编码器、生成对抗网络和自回归模型。

索普先生的故事他的众包寓言是对顺序数据最常用和最成功的深度学习技术之一的类比如文：长短期记忆（LSTM）网络。LSTM 网络是一种特殊类型递归神经网络（RNN）。RNN 包含一个循环层（或cell），它能够通过在特定时间步使其自己的输出成为下一个时间步输入的一部分来处理顺序数据，因此来自过去的信息可以影响当前时间步的预测。我们说LSTM 网络是指具有 LSTM 循环层的神经网络。

Armo Bricks and the Forgers 的故事描述了生成对抗网络 (GAN) 的训练过程。GAN 是两个对手之间的战斗，生成器和鉴别器。生成器尝试将随机噪声转换为看起来好像是从原始数据集中采样的观察结果，而鉴别器则尝试预测观察结果是来自原始数据集还是生成器的伪造品之一。图3.3显示了两个网络的输入和输出示例。图3.3 GAN 中两个网络的输入和输出在过程开始时，生成器输出噪声图像，鉴别器随机预测。

在本章中，您将：了解自动编码器的架构设计如何使其完美适用于生成建模使用 Keras 从头开始构建和训练自动编码器使用自动编码器生成新图像，但了解这种方法的局限性了解变分自动编码器的架构以及它如何解决与标准自动编码器相关的许多问题使用 Keras 从头开始构建变分自动编码器使用变分自动编码器生成新图像使用变分自动编码器通过潜在空间算法来处理生成的图像2013年，Diederik P. Kingma 和 Max Welling发表了一篇论文，为一种称为变分自动编码器。

生成模型可以大致定义如下：生成建模是机器学习的一个分支，涉及训练模型以生成类似于给定数据集的新数据。这在实践中意味着什么？认为我们有一个包含马匹照片的数据集。我们可以在这个数据集上训练一个生成模型来捕捉控制马匹图像中像素之间复杂关系的规则。然后我们可以从这个模型中采样，以创建原始数据集中不存在的新颖、逼真的马匹图像。这个过程如图1.1所示。1.1 一个生成模型，经过训练可以生成逼真的马匹照片为了构建生成模型，我们需要一个由我们尝试生成的实体的许多示例组成的数据集。这被称为训练数据。