本文将xlstm层融入到encoder中进行了改进。pytorch框架,python。xLSTM 的核心是对传统 LSTM 框架的两项主要修改:指数门控和新颖的记忆结构。这些增强引入了两种新的 LSTM 变体,即 sLSTM (标量 LSTM)和 mLSTM (矩阵 LSTM)。Xlstm是同时包含以上两种模块的,形成了整体的xlstm。(只插入两个模块的不是xlstm)
值得注意的是本商品:
1.多输入单输出预测,可以单步多步切换。
2.配有单独的xlstm的py文件,给大家提供学习的内容。
3.相比于transformer精度有所提高,有指标结果,有对比图。
可以作为创新点,结合分解模型,误差修正模型等,二区足够了。想加各种注意力机制可以去买个即插即用模块自己添加就行。
4.也有只添加mlstm或slstm的版本,12.88,添加位置在transformer之后,需要这个备注就行。
采用四个评价指标来对模型的优劣程度进行评价:
R2: 0.9619246230538606
MAE: 81.878075
RMSE: 97.533615
MAPE: 0.74280506