机器学习之循环神经网络(RNN)入门

本文介绍了循环神经网络(RNN)的基本概念,强调其在处理序列数据时的优势,详细解析了RNN的结构、前向传播过程及Tensorflow实现。接着探讨了LSTM,解释了它为解决RNN的长期依赖问题而设计的门控机制,并概述了在Tensorflow中的应用。最后,提到了RNN的变种,包括双向RNN和深层RNN,以及它们的目的和结构特点。
摘要由CSDN通过智能技术生成

一、循环神经网络

1. 主要用途:处理和预测序列数据。

2. 区别:全连接神经网络和卷积神经网络,都是从输入层到隐含层再到输出层,层与层之间是全连接或者部分连接,但是每层之间的节点是无连接的。而循环神经网络的隐藏层之间的结点是有连接的,隐藏层的输入不仅包括输入层的输出,还包括上一时刻隐藏层的输出。循环神经网络会记忆之前信息,并利用之前的信息影响后面结点的输出。

3. 结构:

 

4. 前向传播:

 

 

假设输入向量的维度为x,然后在t时刻循环体的全连接层神经网络的输入大小位h+x。也就是将上一时刻的状态与当前时刻的输入拼接成一个大的向量作为循环体中神经网络的输入。输出层的节点个数为h,循环体中参数的个数(h+x×h+h

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值