【论文解读】基于通道注意力和时间注意力的时间卷积网络：用于航空发动机剩余使用寿命预测的双重注意力架构

已于 2024-03-25 14:52:03 修改
阅读量2.7k 收藏 39
点赞数 33
分类专栏： 时间卷积网络 通道注意力 多头注意力 文章标签： 深度学习 人工智能 回归
于 2024-02-23 12:03:23 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/xihajiang/article/details/136251128
版权
本文提出了一种新型框架，利用时间卷积网络(TCN)结合通道注意力和改进的时间注意力机制，针对航空发动机的剩余使用寿命预测。通过解决数据不完整性、短期噪声问题和关键时间点忽视，该方法在C-MAPSS数据集上展示了显著的预测性能。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

基于通道注意力和时间注意力的时间卷积网络：用于航空发动机剩余使用寿命预测的双重注意力架构

文章目录


标题: Channel attention & temporal attention based temporal convolutional network: A dual attention framework for remaining useful life prediction of the aircraft engines

期刊: Advanced Engineering Informatics (中科院1区top, JCR Q1, IF=8.8) 2024年1月发表

原文链接: https://doi.org/10.1016/j.aei.2024.102372

引用格式: Lin Lin, Jinlei Wu, Song Fu, Sihao Zhang, Changsheng Tong, Lizheng Zu, Channel attention & temporal attention based temporal convolutional network: A dual attention framework for remaining useful life prediction of the aircraft engines, Advanced Engineering Informatics, Volume 60, 2024, 102372, ISSN 1474-0346, https://doi.org/10.1016/j.aei.2024.102372.

前言

本文介绍了一种用于航空发动机剩余使用寿命 (RUL) 预测的新框架，它以时间卷积网络 (TCN) 为主干网络，融入了通道注意力、时间注意力 (改良的Transformer)。其中TCN用来获取更高维的信号数据，并减少短期噪声对预测的影响；通道注意力用来获取不同维度信号 (经过TCN升维后的数据) 对RUL预测的重要性；时间注意力可以加强对具有显着退化信息的关键时间点的关注，从而更准确地进行航空发动机RUL预测。
在这里插入图片描述

1. 论文解决的问题

  • 由于制造、装配等的限制，物理传感器安装位置有限，采集的数据并非是全面可表征航空发动机状态的数据。
  • 受到外
最低0.47元/天 解锁文章
论文阅读1：通道注意力机制-SE模块/Squeeze-and-Excitation Networks
weixin_43479830的博客
03-15 5042
注意力机制之SE模块 Squeeze-and-Excitation Networks 注意力————一种将可用计算资源的分配偏向信号中信息量最大的分量的手段。注意力模块一般有两种：一种是空间注意力模块，一种是通道注意力模块，SE模块属于后者。 SE-block：通过该机制，网络可以学习使用全局信息来选择性地强调信息特征，并抑制不太有用的特征。 SE-block流程： 特征图U（H’W’C’）首先通过Squeeze操作传递，在空间维度上聚集特征图，产生11C的通道描述符。 之后是激励操作
论文阅读笔记（通道注意力）
weixin_45409613的博客
06-16 1752
本周阅读了 Squeeze-and-Excitation Networks 这篇文献，该文献提出了SENet架构，SENet（Squeeze-and-Excitation Networks）是一种深度学习架构，它通过引入注意力机制来增强卷积神经网络（CNN）的特征学习能力。其核心是SE模块，它通过显式地建模特征通道之间的相互依赖关系，使网络能够自适应地调整每个通道的响应。SE模块通过学习每个特征通道的重要性权重，然后根据这些权重对特征进行重标定，从而提升有用的特征并抑制无关的特征。
通道注意力机制|Channel Attention Neural Network
最新发布
Hello大家好，我是Dream，如果帮得到你，那我深感荣幸！想进粉丝福利群及免费送书群，直接私信我拉你。交流学习、商务合作：https://bbs.csdn.net/topics/614347534
04-15 3万+
近年来，在提高深度卷积神经网络CNN的性能方面显示出了巨大潜力。然而，大多数现有方法致力于开发更复杂的注意力模块，以实现更好的性能，这不可避免地增加了模型的复杂性。为了克服性能与复杂性之间的矛盾，本论文提出了一种高效的通道注意力（ECA）模块，它仅涉及少量参数，但带来了显著的性能提升。通过剖析SENet中的通道注意力模块，我们从经验上表明，避兔维度缩减对于学习通道注意力很重要，适当的跨通道交互可以在显著降低模型复杂性的同时保持性能。因此，论文提出了一种不涉及维度缩减的局部跨通道交互策略，1D。
基于深度学习的航空发动机剩余使用寿命预测研究.pdf
08-18
基于深度学习的航空发动机剩余使用寿命预测研究.pdf
万字长文解析CV中的注意力机制（通道/空间/时域/分支注意力）
CV_Autobot的博客
10-24 1万+
点击下方卡片，关注“自动驾驶之心”公众号ADAS巨卷干货，即可获取点击进入→自动驾驶之心技术交流群后台回复【transformer综述】获取2022最新ViT综述论文！注意力机制是机器学习中嵌入的一个网络结构，主要用来学习输入数据对输出数据贡献；注意力机制在NLP和CV中均有使用，本文从注意力机制的起源和演进开始，并主要介绍注意力机制以及在cv中的各类注意力机制。前言transformer从202...
通道注意力机制(CA)
kuailezzf的博客
07-29 6132
通道注意力机制（Channel Attention, CA）是一种广泛应用于计算机视觉中的注意力机制。它主要用于提取图像特征中不同通道之间的相关性，以帮助网络更好地聚焦于重要的特征信息。在深度学习中，卷积神经网络（CNN）通常通过堆叠多个卷积层来提取图像的高级特征表示。然而，具体来说，通道注意力机制通过引入一个注意力模块来学习每个通道的权重，从而动态调整每个通道的重要性。如图1所示，通道注意力机制通过以下步骤实现：输入：假设输入特征图的尺寸为C×H×W，其中C是通道数，H和W分别是高度和宽度。
时间卷积网络+软阈值+注意力机制实现机械设备剩余寿命预测
weixin_43196262的博客
07-16 9595
稍后更新。。。
探索航空发动机剩余寿命预测：基于卷积神经网络的新手案例
gitblog_06582的博客
09-20 549
探索航空发动机剩余寿命预测：基于卷积神经网络的新手案例 新手案例-基于卷积神经网络的航空发动机剩余寿命预测方法 项目地址: https://gitcode.com/Resource-Bundle-Collection/3b25a...
FcaNet：频率通道注意力网络论文解读
AI公园
01-17 3796
点击上方“AI公园”，关注公众号，选择加“星标“或“置顶”导读改一行代码就能涨点，这么好的事情，还不赶紧来看看，用不同的频率分量来做注意力，确实有效果！论文：https://arxiv....
U-Net网络模型改进（添加通道与空间注意力机制）---亲测有效，指标提升
weixin_42367888的博客
12-05 1万+
U-Net网络模型改进（添加通道与空间注意力机制）---亲测有效，指标提升
【多尺度条形池化与通道注意力的图像语义分割】论文精讲
向上生长的程序媛的博客
12-30 2355
目的针对自然场景下图像语义分割易受物体自身形状多样性、距离和光照等因素影响的问题,本文提出 一种新的基于条形池化与通道注意力机制的双分支语义分割网络(strip pooling and channel attention net,SPCANet)。方法SPCANet 从空间与内容两方面对图像特征进行抽取。首先,空间感知子网引入 1 维膨胀卷积与多尺度思想 对条形池化技术进行优化改进,进一步在编码阶段增大水平与竖直方向上的感受野;
论文研究-基于注意力机制的LSTM的语义关系抽取.pdf
07-22
目前关系抽取方法中，传统深度学习方法存在长距离依赖问题，并且未考虑模型输入与输出的相关性。针对以上问题，提出了一种将LSTM（long short-term memory）模型与注意力机制相结合的关系抽取方法。将文本信息向量化，提取文本局部特征，再将文本局部特征导入双向LSTM模型中，通过注意力机制对LSTM模型的输入与输出之间的相关性进行重要度计算，根据重要度获取文本整体特征；最后将局部特征和整体特征进行特征融合，通过分类器输出分类结果。在SemEval-2010 task 8语料库上的实验结果表明，该方法的准确率和稳定性较传统深度学习方法有进一步提高，为自动问答、信息检索以及本体学习等领域提供了方法支持。
CMAPSS 涡扇发动机数据集
11-12
CMAPSS 涡扇发动机数据集，亲测可用，用于寿命预测入门
CVPR2020论文阅读——超强通道注意力模块ECANet！
Jeremy_lf的博客
07-02 1万+
Abstract 最近，通道注意机制已被证明在改善深度卷积神经网络（CNN）的性能方面具有巨大潜力。然而，大多数现有方法致力于开发更复杂的注意模块以实现更好的性能，这不可避免地会增加模型的复杂性。 为了克服性能和复杂性折衷之间的矛盾，本文提出了一种有效的信道注意（ECA）模块，该模块仅包含少量参数，同时带来明显的性能提升。 通过剖析SENet中的通道注意模块，我们从经验上表明避免降维对于学习通道注意很重要，并且适当的跨通道交互可以在保持性能的同时显着降低模型的复杂性。因此，我们提出了一种无需降维的局部跨通.
论文阅读——Temporal Convolutional Attention-based Network For Sequence Modeling
liuy9803的博客
03-12 8126
https://arxiv.org/pdf/2002.12530.pdf 代码：https://github.com/haohy/TCAN 用于序列建模的基于注意力的时序卷积网络 作者提出一种时序卷积注意力网络 Temporal Convolutional Attention-based Netword（TCAN），包括两部分：Temporal Attention（TA）捕捉序列内部的...
探索未来：基于时间卷积网络的发动机剩余寿命预测
gitblog_09807的博客
09-11 945
探索未来：基于时间卷积网络的发动机剩余寿命预测 基于TCN预测航空发动机剩余寿命.zip 项目地址: https://gitcode.com/open-source-toolkit/bcb33 ...
通道注意力机制、空间注意力机制、混合注意力机制
MagicFromMe的博客
03-11 1944
阅读了“Squeeze-and-Excitation Networks”这篇论文，但是懂了它的流程原理，但是不知道有什么用，先说说它的流程吧。
注意力机制在通道上的应用 Sequeeze-and Excitation Networks
Lucky_Q的博客
02-08 3328
Sequeeze-and Excitation Networks 注意力机制(Attention Mechanism)最初是应用在NLP上面的，计算机视觉发展到现在，注意力机制也被越来越多地应用在了CV领域。在这篇论文里面，作者把注意力机制应用在了通道层面，目的在于使得不同的特征通道拥有不同的权重大小，这样就能使得计算机能够有选择性地重视或忽视某些特征。 通常来说注意力机制的实现是通过一个专门的网络来实现的，很明显这就会对计算增加成本。但是作者说，他所提出的这套方法，可以以最小的额外计算成本获得最大的收益，
注意力机制论文:Concurrent Spatial and Channel SE in Fully Convolutional Networks及其Pytorch实现
mingo_敏
02-26 2496
Concurrent Spatial and Channel ‘Squeeze & Excitation’ in Fully Convolutional Networks PDF: https://arxiv.org/pdf/1803.02579v2.pdf PyTorch代码: https://github.com/shanglianlm0525/PyTorch-Networks PyT...
A-TGCN：基于注意力的时空图卷积网络交通速度预测
"基于时空依赖性和注意力机制的交通速度预测" 本文主要探讨了如何利用先进的机器学习方法，特别是基于注意力机制的时空图卷积网络（A-TGCN），来提升交通速度预测的精度和可解释性。交通流量预测是城市交通管理、...
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值