循环神经网络系列（一）Tensorflow中BasicRNNCell

空字符（公众号：月来客栈）

于 2018-10-30 16:34:38 发布

阅读量2.7k

点赞数 7

分类专栏： Tensorflow框架

本文链接：https://blog.csdn.net/The_lastest/article/details/83544280

版权

本文介绍了在Tensorflow中实现BasicRNNCell时遇到的理解难点，详细解释了RNN计算公式中各参数的含义，并通过源码分析确定了参数维度。通过计算验证了推断的正确性，帮助初学者理解RNN单元的实现。

摘要由CSDN通过智能技术生成

按道理看完RNN的原理之后，我们就应该来用某种框架来实现了。可偏偏在RNN的实现上，对于一个初学者来说Tensorflow的表达总是显得那么生涩难懂，比起CNN那确实是差了一点。比如里面的参数就显示不是那么的友好。num_units到底指啥？原谅我最开始以为指的是RNN单元的个数。zero_state()中的参数为啥要指定batch_size?

1.结论

先回忆一下RNN的计算公式：
$output = new\_state = \tanh(input*W + state*U + B)$

output_size = 10
batch_size = 32
cell = tf.nn.rnn_cell.BasicRNNCell(num_units=output_size)
input = tf.placeholder(dtype=tf.float32,shape=[batch_size,150])
h0 = cell.zero_state(batch_size=batch_size,dtype=tf.float32)
output,h1 = cell.call(input,h0)