用于时间序列预测的频率增强信道注意力机制(Python代码实现）

 👨‍🎓个人主页：研学社的博客 

💥💥💞💞欢迎来到本博客❤️❤️💥💥

🏆博主优势：🌞🌞🌞博客内容尽量做到思维缜密，逻辑清晰，为了方便读者。

⛳️座右铭：行百里者，半于九十。

📋📋📋本文目录如下：🎁🎁🎁

目录

💥1 概述

📚2 运行结果

🎉3 参考文献

🌈4 Python代码、数据、详细文章讲解

---

💥1 概述

时间序列预测是一个长期存在的挑战，因为真实世界的信息处于各种场景（例如，能源，天气，交通，经济，地震预警）。然而，一些主流的预测模型预测结果与实际情况大相径庭。我们认为，这是模型缺乏捕获真实世界数据集中丰富包含的频率信息的能力的原因。目前主流的频率信息提取方法都是基于傅里叶变换（FT）的。然而，由于吉布斯现象，FT的使用是有问题的。如果序列两侧的值差异很大，则在两侧周围观察到振荡近似，并且会引入高频噪声。因此，我们提出了一种新的频率增强信道注意力，它基于离散余弦变换自适应地模拟信道之间的频率相互依赖性，这将从本质上避免傅里叶变换过程中有问题的周期引起的高频噪声，这被定义为吉布斯现象。我们证明了该网络在六个真实数据集中的泛化非常有效，并实现了最先进的性能，我们进一步证明了频率增强信道注意力机制模块可以灵活地应用于不同的网络。该模块可以提高现有主流网络的预测能力，只需几行代码，即可在LSTM上降低35.99%的MSE，在Reformer上降低10.01%，在Informer上降低8.71%，在Autoformer上降低8.29%，在Transformer上降低8.06%等，计算成本很小。

文章来源：

📚2 运行结果

# plt.subplot(221)
# plt.plot(x[0:50],y[0:50]) 
# plt.title('Original wave')

# plt.subplot(222)
# plt.plot(xf,yf,'r')
# plt.title('FFT of Mixed wave(two sides frequency range)',fontsize=7,color='#7A378B') #注意这里的颜色可以查询颜色代码表

# plt.subplot(223)
plt.plot(xf1,yf1,'p')
plt.title('Illness FFT of Mixed wave(normalization)',fontsize=9,color='r')
plt.ylim((0,37000))
plt.xlim((0,1/2*len(OT_illness)))
# plt.subplot(224)
# plt.plot(xf2,yf2,'b')
# plt.title('FFT of Mixed wave)',fontsize=10,color='#F08080')


plt.show()

 t = linspace(0, 1, Fs)
    # y = 2 * sin(2 * pi * f1 * t) + 5 * sin(2 * pi * f2 * t)
    y_w=OT_weather
    y_ETTm2 = OT_ETTm2
    y_traffic = OT_traffic
    y_exchange = OT_exchange
    # y = 2 * sin(2 * pi * f1 * t) + 5 * sin(2 * pi * f2 * t) + noise2

    fre, fft_y = fft_func(Fs, y_ETTm2)
    plt.figure()
    plt.plot(fre, abs(fft_y))
    plt.grid()
    fre, fft_y = fft_func(Fs, y_traffic)
    plt.figure()
    plt.plot(fre, abs(fft_y))
    plt.grid()
    fre, fft_y = fft_func(Fs, y_w)
    plt.figure()
    plt.plot(fre, abs(fft_y))
    plt.grid()
    fre, fft_y = fft_func(Fs, y_exchange)
    plt.figure()
    plt.plot(fre, abs(fft_y))
    plt.grid()
    plt.show()

root_path='./dataset/electricity/'
data_path='electricity.csv'
df_raw = pd.read_csv(os.path.join(root_path,data_path))
# OT_exchange = df_raw.OT[1000:2000]
OT_elec = df_raw.OT
plt.plot(OT_elec)
plt.show()

df_raw = pd.read_csv(os.path.join(root_path,data_path))
# OT_exchange = df_raw.OT[1000:2000]
OT_exchange = df_raw.OT
plt.plot(OT_exchange)
plt.show()

 

df_raw = pd.read_csv(os.path.join(root_path,data_path))
# OT_ETTm2 = df_raw.OT[1000:2000]
OT_ETTm2 = df_raw.OT
plt.plot(OT_ETTm2)
plt.show()

🎉3 参考文献

部分理论来源于网络，如有侵权请联系删除。

@misc{jiang2022fecam,
      title={FECAM: Frequency Enhanced Channel Attention Mechanism for Time Series Forecasting}, 
      author={Maowei Jiang and Pengyu Zeng and Kai Wang and Huan Liu and Wenbo Chen and Haoran Liu},
      year={2022},
      eprint={2212.01209},
      archivePrefix={arXiv},
      primaryClass={cs.AI}
}

🌈4 Python代码、数据、详细文章讲解