第3章 循环神经网络（RNN与LSTM）——3.1常用的神经网络模型

3.1 常用的神经网络模型

1.卷积神经网络（Convolutional Neural Network, CNN）

      是一种前馈神经网络，它包括卷积层（convolutional layer）和池化层（pooling player）。

2.循环神经网络（Recurrent Neural Network, RNN）

      是一种节点定向连接成环的人工神经网络，网络的内部状态可以展示动态时序行为。

      课程重点，处理与文本相关的处理，建立模型。

     

        输入层：数据模型的输入，也就是说我们要传入到模型中的数据，例如文本、语音、图像等。

        隐藏层：用于处理数据，并将处理的结果传递给输出层。全连接，3层左右。用朴素贝叶斯，svm计算。

        输出层：经过隐藏层计算之后所输出的模型内容，例如我们用来判断一句话是正能量还是负能量，那么输出层就是输出一个相应的分类。

3.长短期记忆网络（Long Short-Term Memory，LSTM）

      是一种时间递归神经网络，适合于处理和预测时间序列中，间隔和延迟相对较长的重要事件。

      是循环神经网络的变体，RNN短文本，LSTM长文本，增加时间和记忆的概念。chatbot会用RNN和LSTM。