多元时序预测论文解读|MCformer:通道混合的Transformer多元时间序列预测

论文题目：MCformer: Multivariate Time Series Forecasting with Mixed-Channels Transformer

论文地址：https://arxiv.org/abs/2403.09223

代码地址：暂无

一、简介

在以前的模型中，主要使用通道依赖(CD)策略(其中每个通道代表一个单变量序列)。当前SOTA模型主要依赖于通道独立性(CI)策略。CI策略将所有通道视为单个通道，扩展数据集以提高泛化性能，并避免破坏长期特征的通道间相关性。然而，CI策略面临着信道间相关遗忘的挑战。为了解决这个问题，论文提出了一种创新的混合信道策略，将CI策略的数据扩展优势与抵消信道间相关遗忘的能力相结合。在此基础上，引入了具有混合信道特征的多元时间序列预测模型MCformer。该模型混合了特定数量的通道，在建模长期特征时利用注意机制有效捕获通道间相关信息。

二、方法

A. 问题定义

在在多元时间序列预测任务中，历史观测值表示为X = { $x_1$, $x_2$，…， $x_t$}∈$R^{t\times M}$，其中t为时间步长，M为变量个数。根据给定的历史观测值，预测多元观测序列{ $x_{t+1}$,