【时序论文小集】

置顶 已于 2023-12-06 14:36:31 修改
阅读量935 收藏 17
点赞数 2
分类专栏： 深度学习零散记录 文章标签： 深度学习 笔记
于 2023-04-17 21:31:40 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43166192/article/details/130208726
版权

在这里插入图片描述

目录

【2021 AAAI】Informer: Beyond Efficient Transformer for Long Sequence Time-Series Forecasting

关键词：蒸馏、概率稀疏自注意力机制、生成式解码器
特点：降本增效
自测：使用自建的时序数据集进行测试，过去96小时预测未来24小时
mse:9.121872901916504, mae:2.2853033542633057
导航至学习记录：学习记录链接

【2021 NeurIPS】Autoformer: Decomposition Transformers with Auto-Correlation for Long-Term Series Forecasting

关键词：时序分解模块、自相关机制
特点：注重时序数据自身的周期特征
自测：使用自建的时序数据集进行测试，过去96小时预测未来24小时
mse:12.01842975616455, mae:2.5901458263397217
导航至学习记录：学习记录链接

【2022 ICML】FEDformer: Frequency Enhanced Decomposed Transformer for Long-term Series Forecasting

关键词：频域、傅里叶变换、小波变换
特点：在Autoformer主体框架的基础上，使用傅里叶变换、小波变换将时域转换为频域后进行特征提取
自测：使用自建的时序数据集进行测试，过去96小时预测未来24小时
mse:11.52622127532959, mae:2.53287410736084
导航至学习记录：学习记录链接

【2022 NeurIPS】Non-stationary Transformers:Exploring the Stationarity in Time Series Forecasting

关键词：平稳化
特点：针对过平稳化，提出一种创新的解决方法
自测：使用自建的时序数据集进行测试，过去96小时预测未来24小时
mse:5.9416890144348145, mae:1.7598674297332764
导航至学习记录：学习记录链接

【2023 ICLR】TIMESNET: TEMPORAL 2D-VARIATION MODELING FOR GENERAL TIME SERIES ANALYSIS

关键词：升维
特点：将一维时序数据转化为二维数据，借助CV领域成熟模型进行特征提取
自测：使用自建的时序数据集进行测试，过去96小时预测未来24小时
mse:6.045107364654541, mae:1.743194341659546
导航至学习记录：学习记录链接

【2023 ICLR】A Time Series is Worth 64 Words: Long-term Forecasting with Transformers

关键词：分块、通道独立
特点：将ViT思路引入时序预测
自测：使用自建的时序数据集进行测试，过去96小时预测未来24小时
mse:5.901376724243164, mae:1.7470899820327759
导航至学习记录：学习记录链接

【2023 AAAI】Are Transformers Effective for Time Series Forecasting?

关键词：Transformers、Linear、Effective？
特点：针对时序预测中Transformer系列的有效性提出质疑
自测：使用自建的时序数据集进行测试，过去96小时预测未来24小时
mse:6.253798007965088, mae:1.8150177001953125
导航至学习记录：学习记录链接

【2023 ICLR】SCALEFORMER: ITERATIVE MULTI-SCALE REFINING TRANSFORMERS FOR TIME SERIES FORECASTING

关键词：多尺度
特点：提出一种通用框架应用于前人模型中
导航至学习记录：学习记录链接

【2023 NeurIPS】Koopa: Learning Non-stationary Time Series Dynamics with Koopman Predictors

关键词：Koopman、时频转换、常变分解
特点：借助傅里叶频域分解，根据Koopman理论，完成算子探究，从而进行预测工作。
导航至学习记录：学习记录链接

【2023 arXiv】TimeGPT-1: TimeGPT-1

关键词：时间序列预测大模型
特点：通用、无样本预测
导航至学习记录：学习记录链接

清流自诩
关注
  • 2
    点赞
  • 踩
  • 17
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 3
    评论
专栏目录
论文笔记：A Time Series is Worth 64 Words: Long-term Forecasting with Transformers
qq_40206371的博客
02-28 1683
ICLR 2023比较简单，就不分intro、model这些了。
A TIME SERIES IS WORTH 64 WORDS:LONG-TERM FORECASTING WITH TRANSFORMERS
qq_59482564的博客
10-30 650
4 EXPERIMENTSABSTRACT:我们提出了一种高效的基于Transformer设计的模型，用于多变量时间序列预测和自我监督表征学习（self-supervised learning）。它基于两个关键部分：1、将时间序列分隔成子序列级别的patches，作为Transformer的输入；2、独立通道(channel-independence)，每个通道包含一个单一的单变量时间序列，它们共享相同的embedding和Transformer权重。
SCALEFORMER: ITERATIVE MULTI-SCALE REFINING TRANSFORMERS FOR TIME SERIES FORECASTING
最新发布
weixin_45731480的博客
05-10 93
随着变压器的引入，时间序列预测的性能有了很大的提高。在本文中，我们提出了一个通用的多尺度框架，可应用于最先进的基于变压器的时间序列预测模型(FEDformer, Autoformer等)。通过在多个尺度上迭代地细化具有共享权重的预测时间序列，引入体系结构调整和专门设计的规范化方案，我们能够在数据集和变压器体系结构之间实现显著的性能改进，从5.5%到38.5%，并且额外的计算开销最小。通过详细的消融研究，我们展示了我们在架构和方法上的每一个贡献的有效性。
A TIME SERIES IS WORTH 64 WORDS: LONG-TERM FORECASTING WITH TRANSFORMERS
XZHBUT的博客
02-26 1515
与使用包含最近96个时间步长的数据序列(0:518)相比，
A Time Series is Worth 64 Words（PatchTST模型）论文解读
热门推荐
qq_20144897的博客
02-18 1万+
论文A Time Series is Worth 64 Words:Long-Time Forecasting With Tranformer解读，最新时间序列预测SOTA模型PatchTST
【time series】时间序列领域的Transformer综述论文笔记
weixin_45057858的博客
08-06 1935
【time series】Transformer综述笔记
数学建模资料——论文小集
08-26
数学建模论文资料，包括美国赛特等奖一等奖论文
注册表趣味应用小集
09-16
注册表趣味应用小集
基于模糊最小集的试卷诊断模型 (2002年)
05-19
利用模糊最小集方法，提出了一种考试试卷诊断模型。该模型首先确定诊断参数向量对应症状的最大可能分布，再由界限值决定症状集；最后利用诊断逻辑识别。
小集水区试验中三角堰量水问题的研究 (1993年)
05-10
对5种不同缺口角度的不完全收缩薄壁三角堰的出流特性进行了室内实验,得出了实验条条件下的流量系数经验公式和θ=90°堰的低水头(h<6cm)流量系数公式.通过理论分析和实测资料验证,指出了不能直接采用堰流公式得出...
CSS简写小集
01-19
1.border(CSS边框)简写： border-top:1px solid #000;border-bottom:1px solid #000;border-left:1px solid #000;border-right:1px solid #000;可以简写为： border:1px solid #000; 2.padding（CSS padding）简写：...
scaleformer: iterative multi-scale refining transformers for time series forecasting
小蚂蚁与大象
02-21 267
此外，在各种公开数据集上的实验表明，所提出的改进优于相应的基线。然而，scale本身是不够的。本文提出一种通用的多尺度框架，可应用于最先进的基于transformer的时间序列预测模型(FEDformer, Autoformer等)。在多个尺度上迭代优化具有共享权重的预测时间序列，引入架构自适应和特殊设计的规范化方案，能够实现显著的性能提升。所提出的框架应用连续的transformer模块，在不同的时间尺度上迭代完善时间序列预测。最近，由于transformer的引入，时间序列预测的性能得到了极大的提高。
论文解读17——Scaleformer: Iterative Multi-scale Refining Transformers for Time Series Forecasting
对流层的酱猪肘~的博客
08-21 1181
提出了一个通用的多尺度框架Scaleformer，可应用于多种时间序列预测SOTA的Transformer模型（如FEDformer、Autoformer等）。通过在多尺度上迭代地细化时间序列以更好地捕捉时间依赖性，并引入跨尺度标准化缓解因中间不同尺度分布造成的错误预测、引入自适应损失缓解因迭代造成的误差累积，提高模型性能。
【文章学习系列之模型】Koopa
博客标题不能为空
10-24 634
《Koopa: Learning Non-stationary Time Series Dynamics with Koopman Predictors》是2023年发表于NeurIPS的一篇论文。考虑到时序预测中训练和推理数据之间甚至每个回溯窗口之间存在巨大的分布差距，作者结合动态模式分解(DMD)[近似库普曼算子的领先数值方法]，提出一种新的非平稳时序预测模型，实验表明模型轻量高效且具备分布变化的自适应能力。
【文章学习系列之模型】PatchTST
博客标题不能为空
04-21 2918
《A Time Series is Worth 64 Words: Long-term Forecasting with Transformers》是2023年发表于ICLR的一篇文章。该文章借鉴了计算机视觉领域的Vision Transformer（ViT）的方法，仅使用Encoder部分，提出了一种时序分块方法。
scaleformer: iterative multi-scale refiningtransformers for time series forecasting
小蚂蚁与大象
11-15 956
引入架构适应和特殊设计的规范化方案，能够实现显著的性能提升，在数据集和transformer架构上从5:5%到38:5%，而额外的计算开销很小。通过详细的消融研究，证明了在架构和方法上的每个贡献的有效性。在我们提出的方法中，如图1所示，时间序列预测在连续的时间步骤中进行迭代优化，使模型能够更好地捕捉每个尺度的相互依赖关系和特性。所提出的框架应用连续的transformer模块，在不同的时间尺度上迭代完善时间序列预测。最近，由于transformer的引入，时间序列预测的性能得到了极大的提高。
【文章学习系列之模型】SCALEFORMER
博客标题不能为空
05-31 1268
《SCALEFORMER: ITERATIVE MULTI-SCALE REFINING TRANSFORMERS FOR TIME SERIES FORECASTING》是2023年发表于ICLR上的一篇论文。作者发现在对不同时间尺度预测的尝试下，逐渐细化预测颗粒有利于时序预测，因此在论文中提出了一种通用多尺度框架，实验表明显著提高前人Transformer系列模型的实验效果。
Transformer在时间序列预测中不如线性模型？ICLR 2023最新回应来了！
AI蜗牛车
03-07 1138
自从时间序列预测论文Are transformers effective for time series forecasting?（2022）中以一个简单模型打败了复杂的Transformer模型后，关于Transformer是否适用于时间序列预测任务成为学术界一个主要争论点。ICLR 2023上的一篇文章ATIME SERIES IS WORTH 64 WORDS: LONG-TERM FOR...
【文章学习系列之模型】DLinear
博客标题不能为空
05-09 2948
《Are Transformers Effective for Time Series Forecasting?》是2023年发表于AAAI上的一篇文章。该文章以“Transformer在时序预测中是否有效”为论点展开讨论，并提出一种非Transformer系列的简易网络模型。
在并查集问题中，已知集合元素0~8所以对应的父结点编号值分别是{ 1, -4, 1, 1, -3, 4, 4, 8, -2 }（注：−n表示树根且对应集合大小为n），那么将元素6和8所在的集合合并（要求必须将小集合并到大集合）后，该集合对应的树根和父结点编号值分别是多少？
03-16
将元素6和8所在的集合合并后，根据题目要求，应该将小集合并到大集合。因此，我们需要比较元素6和8所在的集合大小。 首先，找到元素6和8所在的集合的根节点，即分别找到它们的祖先节点，直到找到根节点为止。根据给...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

清流自诩

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值