TensorFlow实战：LSTM的结构与cell中的参数

看了关于LSTM的很多文章，感觉都讲的不错，唯独cell中的参数维度被忽略了，导致大体上能听懂，但是一涉及细节就比较模糊，所以想在这里写一篇侧重于LSTM参数维度的文章，以备大家查阅。
文章会结合TensorFlow具体的代码，基本原理的话可以先去看一下原理篇，这里默认大家都了解基本的原理，这里推荐下自己写的LSTM详解 反向传播公式推导 。

一些参数

1. 训练的话一般一批一批训练，即让batch_size 个句子同时训练；

2. 每个句子的单词个数为num_steps，由于句子长度就是时间长度，因此用num_steps代表句子长度。

3. 在NLP问题中，我们用词向量表示一个单词（一个数基本不能表示一个词，大家应该都知道的吧，可以去了解下词向量），我们设定词向量的长度为wordvec_size。

4. LSTM结构中是一个神经网络，即下图的结构就是一个LSTM单元，里面的每个黄框是一个神经网络，这个网络的隐藏单元个数我们设为hidden_size，那么这个LSTM单元里就有4*hidden_size个隐藏单元。

   

5. 每个LSTM输出的都是向量，包括$C_t,h_t$，它们的长度都是当前LSTM单元的hidden_size（后面会解释到）。

6. 语料库中单词的个数是vocab_size

单层LSTM

我们结合具体代码来讲，以下是一个单层的LSTM的最基本结构

cell = tf.contrib.rnn.LSTMBlockCell(hidden_size, forget_bias=0.0)	
outputs = []
state = self._initial_state # state
with tf.variable_scope("RNN"):
    for time_step in range(num_steps):
        if time_step > 0: tf.get_variable_scope().reuse_variables()
            # cell_output: [batch_size,hidden_size]
            (cell_output, state) = cell(inputs[:,time_step,: