CNN、RNN、GAN都是什么？终于有人讲明白了

导读：深度学习已经存在了几十年，不同的结构和架构针对不同的用例而进行演变。其中一些是基于我们对大脑的想法，另一些是基于大脑的实际工作。本文将简单介绍几个业界目前使用的先进的架构。

作者：谢林·托马斯（Sherin Thomas）、苏丹舒·帕西（Sudhanshu Passi）

来源：大数据DT（ID：hzdashuju）

01 全连接网络

全连接、密集和线性网络是最基本但功能强大的架构。这是机器学习的直接扩展，将神经网络与单个隐藏层结合使用。全连接层充当所有架构的最后一部分，用于获得使用下方深度网络所得分数的概率分布。

如其名称所示，全连接网络将其上一层和下一层中的所有神经元相互连接。网络可能最终通过设置权重来关闭一些神经元，但在理想情况下，最初所有神经元都参与训练。

02 编码器和解码器

编码器和解码器可能是深度学习另一个最基本的架构之一。所有网络都有一个或多个编码器–解码器层。你可以将全连接层中的隐藏层视为来自编码器的编码形式，将输出层视为解码器，它将隐藏层解码并作为输出。通常，编码器将输入编码到中间状态，其中输入为向量，然后解码器网络将该中间状态解码为我们想要的输出形式。

编码器–解码器网络的一个规范示例是序列到序列 （seq2seq）网络（图1.11），可用于机器翻译。一个句子将被编码为中间向量表示形式，其中整个句子以一些浮点数字的形式表示，解码器根据中间向量解码以生成目标语言的句子作为输出。

▲图1.11 seq2seq 网络

自动编码器（图1.12）是一种特殊的编码器–解码器网络，属于无监督学习范畴。自动编码器尝试从未标记的数据中进行学习，将目标值设置为输入值。

例如，如果输入一个大小为100×100的图像，则输入向量的维度为10 000。因此，输出的大小也将为 10 000，但隐藏层的大小可能为 500。简而言之，你正在尝试将输入转换为较小的隐藏状态表示形式，从隐藏状态重新生成相同的输入。