RNN（Recurrent Neural Networks 循环神经网络）戳进来就赚到了！

最新推荐文章于 2024-07-30 09:32:13 发布

置顶

乔YI

最新推荐文章于 2024-07-30 09:32:13 发布

阅读量1.4k

点赞数 12

本文链接：https://blog.csdn.net/qq_44803965/article/details/88687771

版权

本文介绍了循环神经网络（RNN）的基本原理和存在的梯度消失问题，重点探讨了长短期记忆网络（LSTM）的结构与工作原理，包括输入门、记忆单元、输出门和遗忘门的作用，以及如何解决长期依赖问题。

摘要由CSDN通过智能技术生成

前言

    CNN模型主要用到人的视觉中枢，但其有一劣势，无论是人类的视觉神经还是听觉神经，所接受到的都是一个连续的序列，使用CNN相当于割裂了前后的联系。
 CNN，训练样本输入输出确定，（输入连续的序列，长短不一：一段连续的手写文字），比较难切分一个独立样本：
			【我是中国人，我的母语是___。】

RNN

	RNN是一种用来处理和预测序列数据的特殊的神经网络，这种神经网络的功能与人的思考习惯类似。RNN是为了**解决文本中当前输出与当前输入和前一时刻
	输出的关系而诞生的神经网络**。主要应用在语音识别，机器翻译，中文分词和词性标注等序列化数据领域，并在该领域取得了良好的成果。经典的RNN结
	构由输入层，隐含层和输出层组成。RNN可以学习文本上下文的语义信息，抽取到的特征信息可以作为其他神经网络或其他模型的输入，也可以放入softmax
	函数直接进行情感极性的
分类。

RNN在t时刻的展开图如图1所示。

在这里插入图片描述
在全连接神经网络或卷积神经网络中，网络结果都是从输入层到隐含层再到输出层，层与层之间是全连接或部分连接的，但每层之间的结点是无连接的
考虑这样一个问题，如果要预测句子的