RNN网络模型及代码实现

最新推荐文章于 2024-09-25 13:30:00 发布

neverGiveUp93

最新推荐文章于 2024-09-25 13:30:00 发布

阅读量4.9k

点赞数 7

分类专栏： AI学习文章标签：深度学习

本文链接：https://blog.csdn.net/hexueqiang93/article/details/107144485

版权

这篇博客深入探讨了RNN（循环神经网络）的结构，强调了其记忆效应在处理时间序列数据中的关键作用。通过数学公式展示了RNN模型的工作原理，并介绍了多层RNN的表示方式。此外，还提供了RNN的示意流程图，帮助读者更好地理解这一深度学习模型。

摘要由CSDN通过智能技术生成

RNN结构与传统的前馈神经网络不同，其存在记忆效应。这种记忆使得神经网络可以对上下文进行分析。显示的表示其对时间的依赖性：y=f(x;t)。
RNN模型的数学表示如下为：
在这里插入图片描述
对于多层RNN模型，将y继续作为输入：

当个RNN的示意流图如下：

import tensorflow as tf  

# 超参数 
batch_size = 32 
seq_len = 100 # 文本长度，T=100 
embedding_size = 128 # 降维后向量长度 
hidden_size = 128 # 隐藏层向量长度

# 统计量
n_words = 5388 #字符数量
n_class = 10 # 类别数量

input_ID = tf.placeholder(tf