stay hungry, stay foolish

时间序列预测论文组成及PyTorch代码管道构建详解。

论文年份：2021，论文被引：8（2022/04/30）

论文年份：2021，论文被引：8（2022/04/13）

本文讨论了如何调整LSTM超参数。

本文介绍了编码器-解码器LSTM架构以及如何在Keras中实现它。

本节介绍了CNN-LSTM架构的起源和适用场景以及在Keras中的实现。

本文介绍了4种序列预测问题以及在Keras中的实现。

本文介绍了使用TensorFlow Keras开发LSTM模型，以进行时间序列预测任务。

本文介绍了LSTMs及其工作原理。

本文介绍了LSTM模型训练中的数据预处理步骤

本文详细总结了近几年时间/时空序列分类/预测/异常检测模型顶会论文，包括Transformer及其变体。

论文作者：阿里巴巴达摩院，论文年份：2022。

之前写过使用 Python yield 实现的滑动窗口，因为用TensorFlow比较多，并且 tf.data API 处理数据更加高效，对于大数据量的情况，选择 API 实现滑动窗口相比原生的Python方法更好。本文介绍了如何使用 tensorflow 的 tf.data API 实现滑动窗口。

本教程介绍了使用Kears搭建LSTM模型进行时间序列预测的流程。包括数据处理，问题建模，预测以及可视化。

本文通过论文、实战教程等几十篇篇博文，梳理总结了一套系统化的时间序列预测和时间序列分类任务的入门指南。文中提及的博客、论文和教程全部内容的总字数大约在50万字到100万字之间。

在处理原始数据过程中，可以将标签列按照顺序对应的方式，保存为单个文件，方便处理。使用 `numpy unique()` 方法，实现按找原序列的顺序将真实标签转换为数字编码。

本文介绍了使用Python yield 实现“滑动窗口”处理序列化数据的方法。

本文介绍了三种用于时间序列分类任务的网络架构，包括：LSTM、CNN-LSTM、ConvLSTM，并使用这些网络架构应用于业内标准的数据集UCI-HAR-dataset进行人类活动识别。

本文介绍如何使用CNN模型实现人类活动识别分类任务。主要内容为：如何加载和处理UCI-HAR数据集，以及如何开发1D CNN模型，达到良好的分类效果。如何进一步调整模型的性能，包括数据转换，过滤器和内核大小。如何开发复杂的 Multi-head 1D CNN模型。

上篇文章介绍了人类活动识别常用的方法、最新进展和面临的挑战。UCI人类活动识别数据集是人类活动识别领域的benchmark数据集（还有一个常用的特征维数和活动种类更多的OPPORTUNITY数据集，会在之后的文章中介绍），本文详细介绍了UCI-HAR数据集，并通过该数据集来探索加载数据集方法、数据可视化流程、问题建模分析以及模型评估思路，为以后的建模实现分类任务打好基础。

本文介绍了人类活动识别相关领域的建模方法和理论研究。

接上文，本文介绍了ConvLSTM模型实现用电量/发电量预测。

接上文，本文介绍了CNN-LSTM模型实现单、多变量多时间步预测的家庭用电量预测任务。

本文介绍了Vector-Output Vanilla LSTM 模型用于单变量输入数据的多步预测；Encoder-Decoder LSTM 模型用于单变量输入数据的多步预测；Encoder-Decoder LSTM 模型用于多变量输入数据进行多步预测。

接上文，本文介绍如何为多变量数据开发多通道多步时间序列预测的CNN模型和多头多步时间序列预测的CNN模型。

与其他机器学习算法不同，卷积神经网络能够从序列数据中自动学习特征，支持多变量数据，并可直接输出用于多步预测的向量。一维CNN已被证明可以很好地执行，甚至在具有挑战性的序列预测问题上也能达到最新的结果。本文介绍如何为单变量数据开发多步时间序列预测的CNN模型。

接上文，本文介绍自相关模型（ARIMA）实现单变量多步输出时间序列预测任务。

接上文，本文使用朴素模型对家庭用电数据集进行单变量多步预测。

通过之前有关LSTM的8遍基础教程和10篇处理时间序列预测任务的教程介绍，使用简单的序列数据示例，已经把LSTM的原理，数据处理流程，模型架构，Keras实现都讲清楚了。从这篇文章开始，将介绍有关时间序列预测和时间序列分类任务在真实数据集上的应用，你可以以此为模板，针对自己的业务需求进行二次开发。在本系列文章的最后会尝试通过自动调参脚本来辅助优化模型。

前三篇文章，讨论了单变量、多变量和多步时间序列预测。对于不同的问题，可以使用不同类型的LSTM模型，例如Vanilla、Stacked、Bidirectional、CNN-LSTM、Conv LSTM模型。这也适用于涉及多变量和多时间步预测的时间序列预测问题，但可能更具挑战性。本文将介绍多变量多时间步预测LSTM模型。

接上文，本文继续讲解如何开发LSTM时间序列预测模型–多步LSTM模型。之前的文章：【Part1】如何开发LSTM实现时间序列预测详解 01 Univariate LSTM【Part2】如何开发LSTM实现时间序列预测详解 02 Multivariate LSTM文章目录之前的文章：3. 多步 LSTM 模型3.1 准备数据3.2 Vector Output Model3.3 Enco...

接上篇文章，本文继续介绍用于处理间序列的LSTM模型--多变量LSTM模型（ Multivariate LSTM Models）。

本文介绍了在以tensorflow2.1.0为后端的Keras中，如何为各种时间序列预测问题开发LSTM模型。本文旨在为每种类型的时间序列问题提供所对应模型的示例，你可以依此为模板，针对自己的业务需求进行修改。

接上文，本文介绍了多步CNN模型和多变量多步输出CNN模型来解决时间序列预测问题。

卷积神经网络模型（CNN）可以应用于时间序列预测。有许多类型的CNN模型可用于每种特定类型的时间序列预测问题。在本介绍了在以TF2.1为后端的Keras中如何开发用于时间序列预测的不同的CNN模型。这些模型是在比较小的人为构造的时间序列问题上演示的，模型配置也是任意的，并没有进行调参优化，这些内容会在以后的文章中介绍。

本文介绍了如何在以TF2.1为后端的Keras中搭建一系列不同的多层感知器模型来实现序列预测任务。模型包括一元感知器模型，多元感知器模型，多时间步感知器模型，多变量多时间步感知器模型。因为本文示例仅使用简单的人为构造的数据来进行演示，因此并没有超参数调整部分，本文更多的目的是提供解决时间序列预测问题的思路方法和模型的模板，具体的细节可以根据自己的业务需求进行扩展开发。

时间序列数据必须经过变换才能用来拟合有监督的学习模型。在这种形式下，数据可以立即用于拟合有监督的机器学习算法，甚至多层感知器神经网络。为了使数据适合卷积神经网络（CNN）或长短期记忆（LSTM）神经网络，还需要进一步的转换。即监督学习数据的二维结构必须转换为三维结构，这也是在做时间序列预测时很让人头疼的问题。本文介绍了如何将时间序列数据集转换为三维结构，以便适合CNN或LSTM模型。

机器学习和深度学习方法可以在具有挑战性的时间序列预测问题上取得令人印象深刻的效果。然而，在许多预测问题中，经典的方法，如SARIMA和指数平滑法，容易优于更复杂的方法。因此，在探索更先进的方法之前，既要了解经典时间序列预测方法的工作原理，又要对其进行评估。本文介绍了时间序列预测的原始和经典方法。

时间序列预测可以被构造为一个监督学习问题。通过对时间序列数据的重构，可以针对不同问题使用相关的机器学习算法。本文介绍了如何将时间序列问题重新构造为机器学习中的监督学习问题。