Informer算法原理与代码详解

最新推荐文章于 2024-06-18 11:33:05 发布
最新推荐文章于 2024-06-18 11:33:05 发布
阅读量526 收藏 3
点赞数 2
分类专栏： prediction 文章标签： 人工智能 深度学习
原文链接：https://blog.csdn.net/weixin_43423873/article/details/132009502
版权

Informer算法原理与代码详解

最近接到了时序方面的业务，对深度时序预测算法进行了学习，将在这里对算法原理和代码进行详细的解释，里面也有一些我对算法使用过程中的个人思考和想法，有问题可以提问，一起交流、学习。

论文地址
代码地址

一、前言

Informer是2021年时序领域的best论文，仔细阅读文章和代码会发现这篇文章的思路、论点和代码框架写的是真的好，让人看着赏心悦目，此后的时序预测算法也大多是在Informer的基础上进行的，包括输入输出的格式、特征编码的方式等

二、论文出发点和创新点

图1 Informer整体框架
在这里插入图片描述

三、论文细节

Efficient Self-attention Mechanism（概率稀疏注意力）

在这里插入图片描述
在这里插入图片描述

如何定义和寻找"Lazy query"

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

Encoder

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

Decoder

在这里插入图片描述
图13中给出的是Decoder的结构
在这里插入图片描述
在这里插入图片描述

Informer前向传播

在这里插入图片描述
在这里插入图片描述

个人使用感受

在这里插入图片描述

文章知识点与官方知识档案匹配，可进一步学习相关知识
算法技能树首页概览 54606 人正在系统学习中
breeze_csdn
关注
专栏目录
Informer的时间序列预测完整代码数据
05-18 3317
Informer的时间序列预测完整代码数据
时间序列预测 — Informer源码详解与运行
几度春风里的博客
11-21 2741
首先导入代码的基本函数和数据类型，在exp文件下exp_informer import中的类Exp_Informer中，定义了模型参数、get_data、model_optim、train、test、eval等函数。前面介绍了训练、测试和预测的的流程，那么每一批次是数据是如何利用Informer模型进行训练的呢？主要实现了Informer模型的测试过程，包括测试数据加载、模型测试、损失计算、保存测试结果的过程。利用Informer模型的最佳训练参数进行预测，包括预测数据加载、模型预测、保存预测结果的过程。
Informer代码详解!
AI蜗牛车
08-21 2247
作者：超爱学习的小豆,文章摘自圆圆的算法笔记知乎链接：https://zhuanlan.zhihu.com/p/6468534381前言Informer是2021年时序领域的best论文，仔细阅读文章和代码会发现这篇文章的思路、论点和代码框架写的是真的好，让人看着赏心悦目，此后的时序预测算法也大多是在Informer的基础上进行的，包括输入输出的格式、特征编码的方式等。2论文出发点和创新点图1 I...
[开源] 基于pytorch的informer时间序列预测模型python代码
zjdssd的博客
03-31 967
informer是近年提出的一种效果优异的时间序列预测模型，该模型较为复杂，不易上手。完整代码及数据集获取链接。
深度学习算法informer（时序预测）（一）（数据编码讲解）
最新发布
weixin_43336108的博客
06-18 1909
informer时序数据编码
时间序列预测 | Python实现Informer模型时间序列预测
前程算法屋的博客
04-14 6935
时间序列预测 | Python实现Informer模型时间序列预测 目录时间序列预测 | Python实现Informer模型时间序列预测基本介绍模型结构程序设计学习总结 基本介绍 序列预测在现实中比较基础但又十分重要的研究场景，如商品销量及库存的预测，未来某个时刻某只股票的价格，疾病的传播及扩散预测等。而长序列预测（Long Sequence Time-Series Forecasting，以下称为 LSTF）方面的工作因为其历史数据量大、计算复杂性高、预测精度要求高更是成为序列预测研究的热点，但一直以
时间序列预测专栏介绍 — 算法原理、源码解析、项目实战
几度春风里的博客
12-07 2051
时间序列预测 — ARIMA-LSTM实现多变量多步负荷预测(Tensorflow)时间序列预测 — ARIMA-LSTM-attention 实现多变量多步负荷预测。时间序列预测 — CNN-LSTM实现多变量多步负荷预测(Tensorflow)时间序列预测 — ARIMA-WOA-CNN-LSTM实现多变量多步负荷预测。时间序列预测 — ARIMA-CNN-LSTM实现多变量多步负荷预测。时间序列预测 — ARIMA-WOA-LSTM实现多变量多步负荷预测。
Informer2020.zip
08-27
1. **PyTorch框架详解**：PyTorch提供了一种动态图（Dynamic Computational Graph）机制，允许开发者在运行时构建和修改计算图，极大地提高了代码的灵活性。此外，PyTorch还提供了丰富的库和工具，如torch.nn模块...
Informer模型实战python案例.zip
06-02
案例中可能包括了预测结果与真实值的对比和评估代码。 7. **预测应用**：实战案例还会展示如何用训练好的模型对未来时间步进行预测，这对于实际业务决策至关重要。 通过深入研究这个Informer模型实战案例，你不仅...
【重识云原生】第四章云网络4.9.3.2节——DPDK原理详解
junbaozi的专栏
07-14 1033
相对传统的基于内核的网络数据处理，dpdk 对从内核层到用户层的网络数据流程进行了重大突破，DPDK拦截中断，不触发后续中断流程，并绕过协议栈，通过UIO技术将网卡收到的报文拷贝到应用层处理，报文不再经过内核协议栈。减少了中断，DPDK的包全部在用户控件使用内存池管理，内核控件与用户空间的内存交互不用进行拷贝，只做控制权转移，减少报文拷贝过程，提高报文的转发效率。.........
Informer模型实战案例(代码+数据集+参数讲解)
11-10
本篇博客带大家看的是Informer模型进行时间序列预测的实战案例，它是在2019年被提出并在ICLR 2020上被评为Best Paper，可以说Informer模型在当今的时间序列预测方面还是十分可靠的，Informer模型的实质是注意力机制+Transformer模型，Informer模型的核心思想是将输入序列进行自注意力机制的处理，以捕捉序列中的长期依赖关系，并利用Transformer的编码器-解码器结构进行预测，通过阅读本文你可以学会利用个人数据集训练模型。Informer是一种用于长序列时间序列预测的Transformer模型,但是它与传统的Transformer模型又有些不同点，与传统的Transformer模型相比，Informer具有以下几个独特的特点： 1. ProbSparse自注意力机制：Informer引入了ProbSparse自注意力机制，该机制在时间复杂度和内存使用方面达到了O(Llog L)的水平，能够有效地捕捉序列之间的长期依赖关系。 2. 自注意力蒸馏：通过减少级联层的输入，自注意力蒸馏技术可以有效处理极长的输入序列，提高了模型处理长序列的能力
Informer(信息提取网络)实现时间序列预测(PyTorch版)
sybh的博客
10-04 830
Informer是一种基于Transformer的时间序列预测模型，它能够有效地处理具有多种时间尺度和复杂性的时间序列数据。与传统的时间序列模型（如ARIMA、LSTM等）不同，Informer利用了Transformer的自注意力机制和多头注意力机制，能够同时捕捉全局和局部的时间相关性。同时，Informer还引入了一些特殊的模块和技术，包括： ProbSparseSelfAttn模块：用于增强Transformer的自注意力机制，使得模型可以更好地处理稀疏的时间序列数据。 Conv1dSub
Informer时间序列模型内容与代码解读
hajfhuw的博客
11-17 2054
用Transformer模型去解决长序列的时间预测问题， 为LSTF设计了一个高效的基于转换器的模型，名为Informer。尤其是提出了一种新的注意力层——ProbSparse Self-Attention和Distilling操作，在减少模型参数的同时大大提升模型的效果，值得在许多场合中借鉴。
Informer：高效长序列时间序列预测模型（更新中）
热门推荐
m0_53881899的博客
02-25 1万+
Transformer+Informer
Informer实战：Informer应用自己的数据 时间序列预测船舶轨迹预测实战
07-05 3474
Informer实战：Informer应用自己的数据 时间序列预测船舶轨迹预测实战
【时间序列】AAAI21最佳论文Informer：效果远超Transformer的长序列预测神器！
AI蜗牛车
02-07 4763
炼丹笔记干货作者：一元，四品炼丹师Informer:最强最快的序列预测神器01简介在很多实际应用问题中，我们需要对长序列时间序列进行预测，例如用电使用规划。长序列时间序列预测（LSTF...
informer算法pytorch
12-17
informer算法是一种基于pytorch框架实现的预测模型，它是一种用于时间序列预测的神经网络模型。该算法能够有效地学习时间序列数据的特征和模式，从而实现对未来数据的准确预测。 在pytorch中，我们可以利用该框架的丰富的工具和库来实现informer算法。首先，我们可以利用pytorch提供的模型定义和训练工具，构建informer模型的网络结构，并通过定义损失函数和优化器来训练模型。同时，pytorch还提供了丰富的数据处理工具，可以帮助我们对时间序列数据进行预处理和特征提取，为模型提供更好的输入数据。 另外，在pytorch中，我们还可以利用其提供的可视化工具和调试工具，对模型的训练过程进行监控和调整，以保证模型的性能和效果。此外，pytorch还支持在不同硬件设备上进行模型的部署和加速运算，从而让informer算法更加灵活和高效。 总之，借助pytorch框架，我们可以更加方便地实现和优化informer算法，为时间序列预测提供更好的解决方案。通过充分利用pytorch提供的各种功能和工具，我们可以更加高效地开发和部署informer模型，从而实现更加准确和可靠的时间序列预测。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值