Latent Diffusion Transformer for Probabilistic Time Series Forecasting

Latent Diffusion Transformer for Probabilistic Time Series Forecasting

摘要：多元时间序列的概率预测是一项极具挑战性但又实用的任务。本研究提出将高维多元时间序列预测浓缩为潜在空间时间序列生成问题，以提高每个时间戳的表达能力并使预测更易于管理。为了解决现有工作难以扩展到高维多元时间序列的问题，我们提出了一种称为潜在扩散变换器（LDT）的潜在多元时间序列扩散框架，它由称统计感知自动编码器和基于扩散的条件条件组成生成器，来实现这个想法。通过精心设计，时间序列自动编码器可以通过考虑动态统计将多元时间戳模式压缩为简洁的潜在表示。然后，基于扩散的条件生成器能够在以非自回归方式建模的新颖的自调节指导下，在连续潜在空间上有效地生成真实的多元时间戳值。大量的实验表明，我们的模型在许多流行的高维多元时间序列数据集上实现了最先进的性能。

贡献：

1、引入 LDT 模型，这是一种多元时间序列预测的新方法，利用潜在空间表示在高维场景中进行高精度预测。

2、开发实用的 LDT 结构，具有独特的自调节机制和非自回归变压器，可实现受约束的自调节预测。

3、我们对多个多元预测数据集进行了广泛的实验，证明了 LDT 在多元时间序列概率预测方面比最近最先进的预测方法具有优越的性能。

方法：

我们的高维多元时间序列预测方法涉及两个阶段的过程：基于统计的时间自动编码器和潜在扩散变换器（LDT）生成器