模型实践 | Autoformer 长时序预测

已于 2022-10-27 09:18:58 修改
阅读量1.7k 收藏 23
点赞数 1
分类专栏： 幻方AI模型实践 文章标签： 深度学习 人工智能
于 2022-07-18 14:50:05 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_66945478/article/details/125720967
版权

实验｜Vachel       算力支持｜幻方AIHPC 

长时间序列预测（Long-Term Series Forecasting，以下称为 LTSF）在现实世界中有非常广阔的应用场景，例如电力资源预估、疾病传播与扩散、经济发展预测等实际问题。前不久分享的《Informer 上手实践》介绍了获得AAAI 2021最佳论文奖的Informer模型，以及其在幻方萤火二号上的试跑和优化。该工作改造 Transformer 模型来解决 LTSF 领域下的问题，取得优异的效果，带动起了该方向的研究热情。NeurIPS 2021，来自清华的几位学者结合之前和工作和 Informer 的模型设计，提出了 Autoformer 模型，在相同预测任务上大幅超越了之前的模型，实现了38%的相对效果提升。

幻方AI最近对这项工作进行了整理和优化，在幻方萤火二号上复现了 Autoformer 的实验。通过幻方自研的 3FS、

最低0.47元/天 解锁文章
幻方AI小编
关注
  • 1
    点赞
  • 踩
  • 23
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 3
    评论
专栏目录
时间序列预测-Transformer,Informer,Autoformer,FEDformer复现结果
11-15
时间序列预测-Transformer,Informer,Autoformer,FEDformer复现结果
AutoFormer+-crx插件
04-02
语言:Bahasa Indonesia,Bahasa ... 另外，如果您想在同一表单中输入其他信息，则可以单击工具栏中的“AutoFormer +”图标，然后选择“保存所有字段”以另存为另一个模板。对于自定义表单填充使用另一个插件：InFormE
Autoformer：用于长时序列预测的分解Transformer模型
zuiyishihefang的博客
12-21 3808
文章信息本周阅读的论文是一篇2021年发表在第34届Advances in Neural Information Processing Systems会议上的关于长时时间序列预测的文章，题目为《Autoformer: Decomposition Transformers with Auto-Correlation for Long-Term Series Forecasting》。摘要延长预测时间...
网络安全最新时间序列预测方法总结_时间序列预测的周期因子怎么算，重磅
m0_54903333的博客
05-10 986
还有兄弟不知道网络安全面试可以提前刷题吗？费时一周整理的160+网络安全面试题，金九银十，做网络安全面试里的显眼包！王岚嵚工程师面试题（附答案），只能帮兄弟们到这儿了！如果你能答对70%，找一个安全工作，问题不大。对于有1-3年工作经验，想要跳槽的朋友来说，也是很好的温习资料！【完整版领取方式在文末！！内容实在太多，不一一截图了。
Autoformer算法与代码分析
buchuankuzi_的博客
12-20 7775
Autoformer的原理以及代码的详细分析
时间序列预测实战(十七)PyTorch实现LSTM-GRU模型长期预测并可视化结果（附代码+数据集+详细讲解）
Snu77的博客
11-20 7752
本文给大家带来的实战内容是利用PyTorch实现LSTM-GRU模型，LSTM和GRU都分别是RNN中最常用Cell之一，也都是时间序列预测中最常见的结构单元之一，本文的内容将会从实战的角度带你分析LSTM和GRU的机制和效果，同时如果你是时间序列中的新手，这篇文章会带你了解整个时间序列的建模过程，同时本文的实战代码支持多元预测单元、单元预测单元、多元预测多元(为我个人编写大家如有转载请标明来源)，本文的实战内容通过时间序列领域最经典的数据集——电力负荷数据集为例进行预测。内容回顾->
【长时间序列预测】Autoformer 代码详解之[2]模型部件之时间序列分解
博观约取，厚积薄发
06-09 4213
Autoformer 时间序列分解策略基于移动平均
第0-(2)章-DRL的细碎笔记-长时序问题中时序信息的获取
weixin_38813759的博客
04-28 245
本文分享了自己对DRL算法中buffer随机采样的一些感悟，如有不准确的地方希望大家指正。
Autoformer时间序列代码实战完整代码可直接运行
08-30
这个压缩包文件提供了Autoformer模型的实战代码，包括数据预处理、模型构建、训练和预测等步骤，使得用户可以直接运行进行时间序列分析。 时间序列分析是统计学的一个重要分支，用于研究数据随着时间变化的模式。在...
Autoformer.zip
最新发布
06-24
本篇文章将深入探讨一种新兴的时间序列预测模型——Autoformer，通过解析其核心原理、结构和优势，帮助读者更好地理解和应用这一技术。 Autoformer是由华为诺亚方舟实验室提出的一种新型时间序列模型，它针对传统...
基于Transformer的长时间序列代码汇总（Autoformer,PEDformer,Informer...等15个算法代码
06-11
基于Transformer的长时间序列代码汇总（Autoformer,PEDformer,Informer，Crossformer,ETSformer,Pyraformer,TimesNet,Reformer,DLinear等15个时间序列预测，分类算法代码汇总）含电力，ETT油温，外汇，病情，交通车...
PyTorch搭建Informer实现长序列时间序列预测
KI的博客
04-05 2313
PyTorch搭建Informer实现长序列时间序列预测
重新审视长时间序列预测：关于线性映射的调查
qq_20144897的博客
06-19 2923
重新审视长时间序列预测：关于线性映射的调查论文解读
时间序列之：多步预测、长序列预测——Informer / ARIMA
yanghe4405的博客
06-05 4701
多步预测是指根据已知的时间序列数据预测未来多个时间步长的值。在ARIMA模型中，可以使用预测函数进行多步预测。Informer是一种用于时间序列预测的神经网络模型，旨在解决长序列预测中的挑战，如长期依赖性和变长序列。它结合了自注意力机制、卷积神经网络和传统的循环神经网络，以提高时间序列预测的准确性和效率。Informer模型的核心思想是将输入序列分成不同的时间段，然后通过编码器-解码器结构进行建模。编码器部分使用自注意力机制和卷积层来捕捉序列内部的长期依赖关系和局部模式。
Informer: Beyond Efficient Transformer for Long SequenceTime-Series Forecasting
lwera的博客
10-18 2907
Beyond Efficient Transformer for Long SequenceTime-Series Forecasting就是用Transformer的方法来对长时间的序列进行一个预测的问题。这篇文章主要面向的问题是序列数据的预测，通过研究历史序列数据掌握其中的规律，进而去预测该序列未来的趋势。
Autoformer: 基于深度分解架构和自相关机制的长期序列预测模型[2021neurips][精读]
To be a better man
05-04 1619
目录 1.文章要解决的问题：长期时间序列预测（值得研究的方向） 2.解决方法(贡献，创新点)： 深度分解架构（Deep Decomposition Architecture） Autoformer: Decomposition Transformers with Auto-Correlation for Long-Term Series Forecasting 1.文章要解决的问题：长期时间序列预测（值得研究的方向） 长期时间序列预测问题：待预测的序列长度远远大于输入长度，即基于有...
Informer：超越Transformer的长时间序列预测模型
zuiyishihefang的博客
03-11 9973
文章信息本周阅读的论文是题目为《Informer: Beyond Efficient Transformer for Long Sequence Time-Series Forecasti...
Informer：比Transformer更有效的长时间序列预测
To be a better man
05-23 9026
目录 AAAI 2021最佳论文：比Transformer更有效的长时间序列预测 Background Why attention Methods:the details of Informer Solve_Challenge_1:最基本的一个思路就是降低Attention的计算量，仅计算一些非常重要的或者说有代表性的Attention即可，一些相近的思路在近期不断的提出，比如Sparse-Attention，这个方法涉及了稀疏化Attention的操作，来减少Attention计算量，然后涉及的
Informer--用于长序列时序预测【2021AAAI Best Paper】
Pain is inevitable but suffering is optional.
09-25 1834
许多真实世界的应用需要对长序列时间序列进行预测，如用电计划。长序列时间序列预测( Long sequence time-series forecasting LSTF)对模型的预测能力提出了很高的要求，即能够有效地捕捉输出和输入之间精确的长期依赖耦合（ long-range dependency coupling）。最近的研究表明，Transformer 具有提高预测能力的潜力。
Autoformer
07-28
Autoformer是一种基于Transformer结构的时序预测模型，它在Self-attention的改进上进行了创新。与之前的模型不同，Autoformer更关注将Self-attention应用于时序计算，并设计了更适合时序分析的attention结构。它是Transformer的升级版本，针对时间序列问题进行了一系列优化。模型的核心结构包括Series Decomposition Block模块和对多头注意力机制的升级AutoCorrelationMechanism。如果想详细了解Autoformer的细节，可以参考杰少的相关文章，其中对Autoformer进行了全面深入的整理。 #### 引用[.reference_title] - *1* *2* [Autoformer算法与代码分析](https://blog.csdn.net/buchuankuzi_/article/details/128390246)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] - *3* [Transformer在时序预测的应⽤第一弹——Autoformer](https://blog.csdn.net/m0_46413065/article/details/129658692)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

幻方AI小编

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值