时间2023-10-11
论文标题:PAITS: Pretraining and Augmentation for Irregularly-Sampled Time Series
下载地址:https://arxiv.org/pdf/2308.13703v1.pdf
本文的预训练方法借鉴了NLP中的经验,主要包括两个方面。
预训练任务的设计:针对不规则时间序列,设计合适的预训练任务,让模型从无监督数据中学到良好表征。文中主要提出了基于预测的预训练任务和基于重构的预训练任务。
数据增强方式设计:文中设计了用于无监督学习的数据增强方式,包括添加噪声、增加随机mask等方式。
此外,文中还提出了一种针对不同分布数据集,如何探索最优无监督学习方式的算法。