【Hybrid Neural Networks for Learning the Trend in Time Series】 阅读笔记

论文提出TreNet模型,结合CNN和LSTM,学习时间序列的局部和全局特征,用于趋势预测。CNN处理局部信息,LSTM捕捉长期趋势。实验表明,TreNet在电力消耗、股市和气体传感器数据集上优于其他模型,但其在高噪声场景中的表现仍有待验证。
摘要由CSDN通过智能技术生成

论文原文链接:https://www.ijcai.org/proceedings/2017/0316.pdf

摘要

本文的混合神经网络叫做TreNet,可以学习时间序列的局部特征和全局特征。它使用CNN提取局部特征,使用LSTM学习长远趋势,最终预测该时间序列之后一段时间的升降趋势。

CNN在提取数据局部特征方面有优势,得益于它能够强化神经元之间的局部连接。

LSTM在分析长远趋势上有优势,得益于网络内部的记忆机制。

作者是这么看待一个时间序列的:首先时间序列是由一些 长期趋势 构成的,如Figure2(b)的Trend1,2,3。看Figure2(a),在时间序列的尾部(即预测点之前)是一些 局部点集 ,它对时间序列的趋势有着较大影响,就好比要预测明天的天气,今天的天气情况会比十天前的天气情况更有参考价值。红圈中显示的是Trend 3 尾部的点集,可以看到,它表明数据有持平或下降的趋势,事实(蓝色虚线)也确实如此。这个模型的思想是综合考虑长期趋势和局部趋势,从而提高预测准确率。

 

网络结构

输入数据分两部分,第一部分Т是历史的较长远的趋势,

混合图神经网络用于少样本学习。少样本学习是指在给定的样本数量非常有限的情况下,如何进行有效的学习和分类任务。混合图神经网络是一种结合了图神经网络和其他模型的方法,用于解决少样本学习问题。 首先,混合图神经网络将图神经网络与其他模型结合起来,以充分利用它们在不同任务上的优势。图神经网络可以有效地处理图结构数据,并捕捉节点之间的关系,而其他模型可能在处理其他类型的数据时更加优秀。通过将它们结合起来,混合图神经网络可以在少样本学习中更好地利用有限的数据。 其次,混合图神经网络可以通过在训练过程中使用一些预训练模型来提高学习效果。预训练模型是在大规模数据集上进行训练得到的模型,在特定任务上可能有较好的性能。通过将预训练模型与图神经网络结合,混合图神经网络可以在少样本学习中利用预训练模型的知识,以更好地适应有限的数据。 最后,混合图神经网络还可以通过设计适当的注意力机制来提高学习效果。注意力机制可以使网络更加关注重要的特征和关系,忽略无关的信息。在少样本学习中,选择性地关注有限的样本和特征对于提高学习的效果至关重要。混合图神经网络可以通过引入适当的注意力机制来实现这一点,以提取和利用关键信息。 综上所述,混合图神经网络是一种用于少样本学习的方法,它结合了图神经网络和其他模型的优势,并利用预训练模型和适当的注意力机制来提高学习效果。这种方法对于在有限数据条件下执行有效的学习和分类任务非常有帮助。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值