MOMENT: A Family of Open Time-series Foundation Models

MOMENT: A Family of Open Time-series Foundation Models
PDF: https://arxiv.org/pdf/2402.03885.pdf
Code: https://anonymous.4open.science/r/BETT-773F/README.md

1 概述

MOMENT是一个用于通用时间序列分析的开源基础模型系列。由于缺少大型公共时间序列存储库、时间序列特征多样以及缺乏实验基准等挑战，预训练这些模型变得困难。因此，科研人员创建了庞大的公共时间序列集合，并解决了特定挑战以实现大规模多数据集预训练。他们还设计了一个基准来评估这些模型在有限监督设置下的性能。实验表明，预训练模型在少量数据和特定任务微调下表现有效。

2 Methodology

2-1 时间序列堆（The Time-series Pile）

Informer长视野预测数据集（Informer long-horizon forecasting datasets）包含9个评