创新点！CNN与LSTM结合，实现更准预测、更快效率、更高性能！

于 2024-05-13 18:24:28 发布
阅读量1k 收藏 9
点赞数 9
分类专栏： 人工智能干货 深度学习干货 文章标签： LSTM CNN 人工智能 注意力机制
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_42645636/article/details/138813961
版权

推荐一个能发表高质量论文的好方向：LSTM结合CNN。

LSTM擅长捕捉序列数据中的长期依赖关系，而CNN则擅长提取图像数据的局部特征。通过结合两者的优势，我们可以让模型同时考虑到数据的时序信息和空间信息，减少参数降低过拟合风险，从而提供更精确的预测、更出色的性能以及更高的训练效率。

因此，LSTM结合CNN也是深度学习的一个热门研究方向，在学术界与工业界都有广泛应用。比如在股票预测中，这类结合模型不仅可以捕捉股票市场数据的复杂性，还可以提高预测模型在面对市场波动时的鲁棒性。

本文整理了15种LSTM结合CNN的创新方案，包括引入注意力机制的策略，并简单提炼了可参考的方法以及创新点，希望能给各位的论文添砖加瓦。

论文原文需要的同学看文末

BIDIRECTIONAL CNN-LSTM ARCHITECTURE TO PREDICT CNXIT STOCK PRICES

方法：论文探索应用双向卷积神经网络-长短期记忆网络（CNN-LSTM）架构来预测股票价格，特别关注CNXIT（Nifty IT）股票指数，以研究深度学习技术在捕捉历史股票价格数据中的复杂时间依赖性和空间模式方面的潜力。通过综合文献回顾，介绍Bidirectional CNN-LSTM模型及其数据预处理步骤、模型架构和训练过程。清理和准备CNXIT历史股票价格数据集以确保模型的准确性。

创新点：

  • 通过结合CNN和LSTM的双向卷积神经网络长短期记忆（CNN-LSTM）架构，该研究提出了一种创新的预测股票价格的方法。这一方法能够捕捉历史股价数据中的时间依赖性和空间模式，提高预测准确性，并更好地理解市场动态。

  • 提出了一种将卷积神经网络（CNN）与优化超参数和均值方差预测（MVF）模型相结合的新型混合方法，用于股票组合优化。该方法通过预测收益率来预先选择股票，并在最大化收益的同时管理风险，从而提高股票组合优化的效果和效率。

Isolated Video-Based Sign Language Recognition Using a Hybrid CNN-LSTM Framework Based on Attention Mechanism

方法：论文提出了一种识别手语的混合模型，通过结合卷积神经网络（CNN）和基于注意力机制的长短期记忆（LSTM）神经网络来识别独立的手语词汇。该模型使用MobileNetV2作为骨干模型，通过CNN提取视频帧的空间特征，并将其传递给LSTM进行长期依赖的学习。

创新点：

  • 作者提出了一种基于CNN和LSTM的方法，采用注意机制替代LSTM的输出层，用于检测时空特征。

  • 作者提出了一个轻量级、参数优化和计算效率高的设计架构，该方法在WLASL数据集上进行了评估，取得了84.65%的分类准确率，相对于其他最先进的方法有2%到3%的改进。

Efficient Real-Time Smart Keyword Spotting Using Spectrogram-Based Hybrid CNN-LSTM for Edge System

方法：论文介绍了一种名为SpectroNet的低复杂度关键词识别模型，该模型使用Jetson Xavier平台进行实现。作者使用Google Speech Commands数据集对模型进行训练，并使用真实的语音数据评估其性能。为了进一步提高模型的性能，作者采用TensorRT进行优化，并重点研究了TensorRT中不同数据精度对性能的影响。最后，作者还添加了LED指示灯来显示系统的输出。

创新点：

  • SpectroNet：作者提出了一个名为SpectroNet的低复杂度的关键词识别模型，该模型基于深度学习的CNN-LSTM架构，并使用Mel Spectrogram作为音频特征提取方法。SpectroNet模型具有较低的复杂度和较高的准确性，适合实时关键词识别系统的实现。

  • TensorRT优化：为了进一步优化SpectroNet模型的性能，作者使用了TensorRT库进行优化，主要采用FP32和FP16精度。优化结果表明，TensorRT成功地将SpectroNet中执行的总操作数的50%以上进行了转换，从而提高了模型的推理速度。此外，通过使用FP16精度模式，模型的推理时间提高了14.75%，同时只有0.33%的准确性下降，使得FP16优化成为优化SpectroNet模型的最佳选择。

An Improved Network Intrusion Detection Method Based On CNN-LSTM-SA

方法：论文提出了一种将卷积神经网络（CNN）和长短期记忆循环神经网络（LSTM-RNN）与自注意机制（CNN-LSTM-SA）相结合的方法，用于处理网络入侵行为，通过实验证明该方法在网络入侵检测中的优越性能，并探讨了进一步研究方向和未解决的问题。

创新点：

  • 提出了一种综合了CNN、LSTM和SA的深度学习方法，用于网络入侵检测。通过结合这些技术，该方法能够提取更优化、强相关的特征，从而显著提高网络入侵检测的准确性。

  • 在二元分类和多分类实验中，CNN-LSTM-SA方法在平均 F1 分数上超过了所有其他传统分类器，最高可达到93.26%。此外，该方法在准确率方面也表现出色，在准确度方面达到了最高的93.72%。这表明通过深度学习技术，该方法在增强网络入侵检测系统的有效性方面具有巨大潜力。

关注下方《学姐带你玩AI》🚀🚀🚀

回复“LS创新”获取全部论文合集

码字不易，欢迎大家点赞评论收藏

深度之眼
关注
  • 9
    点赞
  • 踩
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
基于CNN和双向LSTM融合的实体关系抽取
01-20
实体关系抽取旨在识别网络文本中的实体，并提取出文本中实体之间隐含的关系。研究表明，深度神经网络在实体关系抽取任务上具有可行性，并优于传统关系抽取方法。目前的关系抽取方法大都使用卷积神经网络（CNN）和长短期记忆神经网络（LSTM），然而CNN只考虑连续词之间的相关性而忽略了非连续词之间的相关性。另外，LSTM虽然考虑了长距离词的相关性，但提取特征不够充分。针对这些问题，提出了一种CNN和LSTM结合的实体关系抽取方法，采用3种结合方法进行了实验，验证了该方法的有效性，在F1值上有一定的提升。
MATLAB实现CNN-LSTM时间序列预测（完整源码和数据）
10-14
MATLAB实现CNN-LSTM时间序列预测（完整源码和数据） 卷积长短期记忆神经网络时间序列预测，数据为单变量时间序列数据， 运行环境MATLAB2020b及以上。
cnn+lstm+attention对时序数据进行预测
02-18
cnn+lstm+attention对时序数据进行预测 博客链接： https://blog.csdn.net/qq_30803353/article/details/121875376 1、摘要 本文主要讲解：bilstm-cnn-attention对时序数据进行预测 主要思路： 对时序数据进行分块，生成三维时序数据块 建立模型，卷积层-bilstm层-attention按顺序建立，attention层可放中间也可放前面，效果各不相同 训练模型，使用训练好的模型进行预测 调参优化，保存模型 2、数据介绍 需要数据和数据介绍请私聊，评论区可以找到我的球球 3、相关技术 BiLSTM：前向和方向的两条LSTM网络，被称为双向LSTM，也叫BiLSTM。其思想是将同一个输入序列分别接入向前和先后的两个LSTM中，然后将两个网络的隐含层连在一起，共同接入到输出层进行预测。 attention注意力机制 一维卷积 cnn+lstm+attention 网络结构图 RNN-＞LSTM-＞BiLSTM神经网络结构 注意力机制----transformer中注意力机制 使用Python和Kera
基于CNN-LSTM（卷积神经网络-长短期记忆）的多输入分类任务实现——附代码
不定时分享电力优化、神经网络、数学建模等技术等
03-02 2万+
此示例演示如何通过将二维卷积神经网络（CNN）与长短期记忆（LSTM）层相结合，为多输入的语音序列分类任务创建二维CNN-LSTM网络。CNN通过将滑动卷积滤波器应用于输入来处理序列数据。CNN可以从空间和时间维度学习特征。LSTM网络通过循环时间步长和学习时间步之间的长期依赖关系来处理序列数据。CNN-LSTM网络使用卷积层和LSTM层从训练数据中学习。
基于贝叶斯优化CNN-LSTM混合神经网络预测（Matlab代码实现）
最新发布
weixin_66436111的博客
04-18 353
然而，基于 BO 的超参数寻优的缺点可以归结为两类：训练时间和 BO 参数的调整。此外，BO 的核函数很难调整,最近的一项研究工作解决了这些问题，如标准化BO 参数。积核参数共享以及层间连接的稀疏性使得 CNN 能够以较小的计算量从高维数据中提取深层次局部特征，并通过卷积层和池化层获得有效的表示[34]。第2 次池化操作后，再利用全连接层将高维数据展平为 1 维数据，从而更加方便的对数据进行处理。而 GRU 则是在 LSTM 的基础上提出，其结 构更简单，参数更少，训练时间短，训练速度也比更快[37]。
MATLAB实现CNN-LSTM神经网络多输入回归预测（完整源码和数据）
10-24
MATLAB实现CNN-LSTM神经网络多输入回归预测（完整源码和数据） CNN-LSTM神经网络，卷积长短期记忆神经网络多输入回归预测 数据为多输入回归数据，输入12个特征，输出1个变量。 运行环境MATLAB2020b及以上。
TensorFlow搭建CNN-LSTM混合模型实现多变量多步长时间序列预测（负荷预测）
KI的博客
08-30 1万+
TensorFlow搭建CNN-LSTM混合模型实现多变量多步长时间序列预测（负荷预测）
神经网络的并行连接（CNN+LSTM）
CYK246的博客
04-20 7287
1. 数据集预处理 1. 加载csv文件 obj = pd.read_csv("文件路径", header=0) 2. 提取数据 data = np.asarray(obj.iloc[:, m:n+1]) # 数据集中在m~n列 3. 数据归一化 参考数据标准化处理 4. 数据输入格式基本处理 # 如将样本处理成三维数据，可利用reshape() data = data.reshape(.........
LSTM+CNN模型厄尔尼诺事件预测
qq_45957458的博客
10-28 4558
基于Pytorch对海温异常事件中的Nino指数进行预测，使用CNN+LSTM模型并通过软投票的方式预测未来三年厄尔尼诺事件的可能性
【数据＋代码】CNN-LSTM模型实现时间序列预测
weixin_46287760的博客
02-08 4611
本文使用深度学习组合模型CNN-LSTM来进行销售额的预测。将介绍这一模型的原理并应用于一个销售数据集，帮助我们理解销售模式并进行准确的销售额预测。
基于注意力机制的CNN-LSTM模型及其应用（含软硬注意力区别）
pengxiang1998的博客
10-05 2万+
处理原始数据集，再将其按 6∶2∶2 的比例划分。数据输入时进行归一化，在加速模型收敛的同时，一定程度提升模型精度；输出时进行反归一化。
分类预测 | MATLAB实现CNN-LSTM(卷积长短期记忆神经网络)多特征分类预测
关注并私信文章链接，获取对应文章源码和数据，机器学习之心的博客。
08-07 8444
分类预测 | MATLAB实现CNN-LSTM(卷积长短期记忆神经网络)多特征分类预测
回归预测 - MATLAB实现CNN-LSTM多输入单输出（完整源码和数据）
05-05
回归预测 | MATLAB实现CNN-LSTM多输入单输出（完整源码和数据） 本次运行测试环境MATLAB2020b，MATLAB实现CNN-LSTM多输入单输出预测。
Python实现EMD-CNN-LSTM时间序列预测（完整源码和数据)
03-12
1.Python实现EMD-CNN-LSTM时间序列预测（完整源码和数据) anaconda + pycharm + python +Tensorflow 注意事项：保姆级注释，几乎一行一注释，方便小白入门学习！ 2.代码特点：参数化编程、参数可方便更改、代码编程...
CNN+LSTM+Attention实现时间序列预测
热门推荐
pengxiang1998的博客
11-17 3万+
LSTM 隐藏层输出向量作为注意力层的输入，通过一个全连接层进行训练，再对全连接层的输出使用 softmax 函数进行归一化，得出每一个隐藏层向量的分配权重，权重大小表示每个时间步的隐状态对于预测结果的重要程度。权重训练过程如下：Ｓ。
基于CNN-LSTM的时序预测MATLAB实战
qq_45013535的博客
09-15 1986
基于CNN-LSTM的时序预测MATLAB实战
神经网络结构——CNN、RNN、LSTM、Transformer ！！
不要给自己设限，尝试更多可能（思所向 皆可往）
03-04 4237
本文将从什么是CNN？什么是RNN？什么是LSTM？什么是Transformer？四个问题，简单介绍神经网络结构。神经网络结构通过卷积和池化操作有效地处理高维图像数据，降低计算复杂度，并提取关键特征进行识别和分类。网络结构用来提取图像的局部特征。用来大幅降低参数量级，实现数据降维。用来输出想要的结果。卷积神经网络（CNN）解决问题卷积操作提取图像特征，如边缘、纹理等，保留图像特征。池化操作大幅降低参数量级，实现数据降维，大大减少运算量，避免过拟合。工作原理。
CNN与LSTM结合的预测效果不如用单独的CNN预测的原因
05-28
CNN 和 LSTM 结合的模型相比于单独的 CNN 模型预测效果不佳，可能有以下几个原因： 1. 过拟合：CNN 和 LSTM 结合的模型通常具有更多的参数和复杂的结构，容易出现过拟合的问题，而单独的 CNN 模型通常较为简单，不容易出现过拟合的问题，因此预测效果可能更好。 2. 参数设置不合适：CNN 和 LSTM 结合的模型需要设置更多的超参数，如 LSTM 的隐藏层数、CNN 的卷积核大小等，如果这些参数设置不合适，可能会影响模型的预测效果。 3. 数据集问题：CNN 和 LSTM 结合的模型需要更多的训练数据才能发挥其优势，如果数据集过小或不够均衡，可能会影响模型的预测效果。 4. 训练不充分：CNN 和 LSTM 结合的模型通常需要更长的训练时间和更多的计算资源，如果训练不充分，可能会影响模型的预测效果。 5. 模型架构问题：CNN 和 LSTM 结合的模型需要设计一个合适的架构，如果模型架构不合适，可能会影响模型的预测效果。 综上所述，CNN 和 LSTM 结合的模型相比于单独的 CNN 模型预测效果不佳，可能是由于过拟合、参数设置不当、数据集问题、训练不充分以及模型架构问题等原因导致的。需要针对具体情况进行调整和优化。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值