双向lstm_【串讲总结】RNN、LSTM、GRU、ConvLSTM、ConvGRU、ST-LSTM

最新推荐文章于 2024-05-17 16:16:55 发布
最新推荐文章于 2024-05-17 16:16:55 发布
阅读量722 收藏 2
点赞数 1
文章标签： 双向lstm
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_39591455/article/details/111390050
版权
本文是对时序模型的总结，包括RNN的基础知识，LSTM的优势与扩展，GRU的快速训练特性，以及ConvLSTM和ConvGRU在时空序列预测中的应用。特别讨论了双向LSTM、深层双向LSTM、ConvLSTM的结构争议，并指出ST-LSTM的stacking结构和训练技巧。
摘要由CSDN通过智能技术生成

以下文章来源于AI蜗牛车，作者Che_Hongshu（Datawhale成员，东南大学硕士）

https://zhuanlan.zhihu.com/p/148122328

【串讲总结】RNN、LSTM、GRU、ConvLSTM、ConvGRU、ST-LSTM​mp.weixin.qq.com
00a1908b36b655b63946285a41c15a4e.png

前言

平时很少写总结性的文章，感觉还是需要阶段性总结一些可以串在一起的知识点，所以这次写了下。因为我写的内容主要在时序、时空预测这个方向，所以主要还是把rnn，lstm，gru，convlstm，convgru以及ST-LSTM进行了串讲总结

一、 RNN

最为原始的循环神经网络，本质就是全连接网络，只是为了考虑过去的信息，输出不仅取决于当前输入，还取决于之前的信息，也就是输出由之前的信息(也就是状态state)和此时的输入决定。

1.1 结构图

d6e512de0d15f73a9bacd5090fed4b51.png

facf974dee1f89b36a89a526621879e6.png

1.2 公式

1.3 优缺点

1.3.1 优点

① RN

最低0.47元/天 解锁文章
weixin_39591455
关注
  • 1
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
rnnoise.zip_LSTM-GRU_RNN 降噪_lstm代码_rnn音频降噪_音频降噪
07-15
改代码为音频降噪功能，是基于RNN的音频降噪算法。其中采用的是 GRU/LSTM 模型，支持wav格式。
c++实验总结_【串讲总结】RNN、LSTM、GRU、ConvLSTM、ConvGRU、ST-LSTM
weixin_39593340的博客
10-29 625
以下文章来源于AI蜗牛车，作者Che_Hongshu（Datawhale成员，东南大学硕士）https://zhuanlan.zhihu.com/p/148122328【串讲总结】RNN、LSTM、GRU、ConvLSTM、ConvGRU、ST-LSTM​mp.weixin.qq.com前言平时很少写总结性的文章，感觉还是需要阶段性总结一些可以串在一起的知识点，所以这次写了下。因为我写的内容主要在...
双向 LSTM（Bidirectional LSTM）与普通 LSTM 公式过程
weixin_44790306的博客
08-31 2702
双向 LSTM 结构中有两个 LSTM 层，一个从前向后处理序列，另一个从后向前处理序列。在处理序列时，每个时间步的输入会被分别传递给两个 LSTM 层，然后它们的输出会被合并。双向 LSTM（Bidirectional LSTM）与普通 LSTM 有类似的公式过程，但有一些细微的差别。LSTM 是一种循环神经网络（RNN），用于处理序列数据。通过双向 LSTM，我们可以获得更全面的序列信息，有助于提高模型在序列任务中的性能。是前向 LSTM 在第。个时间步的向量表示，个时间步的细胞状态，
双向长短期记忆网络（BiLSTM）简介
SimpleLearning
05-17 2148
双向长短期记忆网络（Bidirectional Long Short-Term Memory, BiLSTM）是一种改进的循环神经网络（Recurrent Neural Network, RNN），专门设计用于处理序列数据。BiLSTM 能够通过结合前向和后向两个 LSTM 网络的输出来捕捉序列中的双向依赖关系。
RNN递归神经网络的详细推导及C++实现
新博客：https://aping-dev.com/
10-11 1万+
//让程序自己学会是否需要进位，从而学会加法#include "iostream" #include "math.h" #include "stdlib.h" #include "time.h" #include "vector" #include "assert.h" using namespace std;#define innode 2 //输入结点数，将输入2个加数 #defi
基于C++的 RNN/lstm神经网络算法（不调用外源库）
修行之路
09-17 711
基于C++的 RNN/lstm神经网络算法（不调用外源库）
class6_LSTM_pythonLSTM_python实现的LSTM长短时记忆网络_RNN_gru_
10-03
在本文中，我们将深入探讨标题和描述中提及的“class6_LSTM_pythonLSTM_python实现的LSTM长短时记忆网络_RNN_gru”，这显然与深度学习中的序列模型相关，特别是LSTM（长短时记忆网络）和GRU（门控循环单元）。...
TPA-LSTM-master_attention_attention-LSTM_attentionLSTM_TPA-LSTM_
09-11
标题中的"TPA-LSTM-master_attention_attention-LSTM_attentionLSTM_TPA-LSTM_"提到了一个与时间序列分析相关的深度学习模型，重点在于“TPA-LSTM”和“attention-LSTM”。这个模型是针对多变量时间序列数据的，利用...
ny-stock-price-prediction-rnn-lstm-gru.rar
最新发布
06-20
标题中的“ny-stock-price-prediction-rnn-lstm-gru.rar”表明这是一个关于纽约股票价格预测的项目，其中使用了循环神经网络（RNN）、长短时记忆网络（LSTM）和门控循环单元（GRU）这三种深度学习模型。在金融领域，...
分别使用RNN_LSTM_GRU三种神经网络进行文本分类
11-19
RNN（循环神经网络）、LSTM（长短期记忆网络）和GRU（门控循环单元）是深度学习中常用于处理序列数据的模型，尤其适合处理文本这种具有时间依赖性的数据。以下将详细介绍这三种模型以及如何应用于文本分类。 1. **...
LSTM C++源代码
01-30
https://blog.csdn.net/u012465304/article/details/82656803 我的博客上的LSTM例程，用c++写的，由于找我私聊要的人太多了，就上传到这个上面，大家可自行下载
C++元编程——双向RNN
Dr_Jack的博客
12-08 166
可以看到，训练只要训练6000次结果就稳定了，但是问题在于出来的结果和期望结果有一定的差距。可以看出输出结果是各个输入数据的均值，这个就非常尴尬了。我觉得这和我的训练方式不当可能有关系，下次可以试验每个输入都进行多次训练，直到结果稳定再进行下一个输入的训练。这个试验代码定义了一个3层的DRNN，输入输出分别是3->8->16->2。第二层输入是8*1矩阵；一层包含两个方向的横向节点，最终输出是根据两个节点的输出加权得到。搞了一个双向的RNN，按照网上介绍的双向RNN实现出来的，但是试验结果确非常奇葩。
时间序列预测实战(二十四)PyTorch实现RNN进行多元和单元预测（附代码+数据集+完整解析）
Snu77的博客
12-07 7684
本篇文章给大家带来的是利用我个人编写的架构进行RNN时间序列卷积进行时间序列建模（专门为了时间序列领域新人编写的架构，简单且不同于市面上大家用GPT写的代码），包括结果可视化、支持单元预测、多元预测、模型拟合效果检测、预测未知数据、以及滚动长期预测功能。该结构是一个通用架构任何模型嵌入其中都可运行。下面来介绍一下RNN：循环神经网络（RNN）是深度学习中用于处理序列数据的一种基本网络结构。RNN的核心原理是它拥有一个循环结构这使得网络能够保持一个内部的状态，从而捕捉到数据中随时间演变的信息。
RNN时序预测
m0_61010858的博客
04-29 304
RNN模型用于时间序列预测
C++元编程——计算链和RNN
Dr_Jack的博客
12-06 561
反向传播时候有个计算链，误差传播时也是反向走过各个计算链，所以这个计算链的概念很重要。下面是这个计算链的实现cal_chain.hpp： 下面看一看用这个计算链实现RNN： 这个用法当然不是RNN的常规用法。真正的RNN训练应该用一段固定长度的序列进行计算。最好有层内正反向两个传播节点。
LSTM神经网络的详细推导及C++实现
热门推荐
新博客：https://aping-dev.com/
10-12 2万+
LSTM隐层神经元结构： LSTM隐层神经元详细结构： //让程序自己学会是否需要进位，从而学会加法#include "iostream" #include "math.h" #include "stdlib.h" #include "time.h" #include "vector" #include "assert.h" using namespace std;#define
Pytorch实现RNN预测模型并使用C++相应的ONNX模型推理
午夜的行人
09-15 617
Pytorch实现RNN预测模型并使用C++相应的ONNX模型推理。
crnn+bilstm+ctc转ncnn模型，并成功调用
whatsuo的博客
08-12 1563
ocr训练代码：crnn+bilstm+ctcl 腾讯ncnn工具 参考:nihuid的详细记录超轻量中文OCR LSTM模型ncnn实现 第一步 训练crnn模型，得到best.pth 第二步 import numpy as np import onnxruntime as rt import utils import onnx import params import models.crnn as net import torch.nn as nn import torch from PIL impor
ARIMA SARIMA VAR Auto-ARIMA Auto-SARIMA LSTM GRU RNN CNN MLP DNN MLP-LSTM MLP-GRU MLP-RNN MLP-CNN LSTM-ARIMA LSTM-MLP LSTM-CNN GRU-ARIMA GRU-MLP GRU-CNN RNN-ARIMA RNN-MLP RNN-CNN CNN-ARIMA CNN-MLP CNN-LSTM CNN-GRU ARIMA-SVM SARIMA-SVM VAR-SVM Auto-ARIMA-SVM Auto-SARIMA-SVM LSTM-SVM GRU-SVM RNN-SVM CNN-SVM MLP-SVM LSTM-ARIMA-SVM LSTM-MLP-SVM LSTM-CNN-SVM GRU-ARIMA-SVM GRU-MLP-SVM GRU-CNN-SVM RNN-ARIMA-SVM RNN-MLP-SVM RNN-CNN-SVM CNN-ARIMA-SVM CNN-MLP-SVM CNN-LSTM-SVM CNN-GRU-SVM ARIMA-RF SARIMA-RF VAR-RF Auto-ARIMA-RF Auto-SARIMA-RF LSTM-RF GRU-RF RNN-RF CNN-RF MLP-RF LSTM-ARIMA-RF LSTM-MLP-RF LSTM-CNN-RF GRU-ARIMA-RF GRU-MLP-RF GRU-CNN-RF RNN-ARIMA-RF RNN-MLP-RF RNN-CNN-RF CNN-ARIMA-RF CNN-MLP-RF CNN-LSTM-RF CNN-GRU-RF ARIMA-XGBoost SARIMA-XGBoost VAR-XGBoost Auto-ARIMA-XGBoost Auto-SARIMA-XGBoost LSTM-XGBoost GRU-XGBoost RNN-XGBoost CNN-XGBoost MLP-XGBoost LSTM-ARIMA-XGBoost LSTM-MLP-XGBoost LSTM-CNN-XGBoost GRU-ARIMA-XGBoost GRU-MLP-XGBoost GRU-CNN-XGBoost RNN-ARIMA-XGBoost RNN-MLP-XGBoost RNN-CNN-XGBoost CNN-ARIMA-XGBoost CNN-MLP-XGBoost CNN-LSTM-XGBoost CNN-GRU-XGBoost ARIMA-ANN SARIMA-ANN VAR-ANN 上面这100个缩写模型的全称及相关用途功能详细解释
07-15
7. GRU (Gated Recurrent Unit): 一种类似于LSTM的循环神经网络，具有更简化的结构，适用于时间序列数据的建模和预测。 8. RNN (Recurrent Neural Network): 适用于处理序列数据的神经网络模型，能够捕捉时间序列的...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值