chenxino-CSDN博客

原创 AdaRNN: Adaptive Learning and Forecasting for Time Series（CIKM 2021）

作者针对时间序列分布的动态变化特性，提出了时间序列的时序协方差漂移问题(Temporal Covariate Shift, TCS)。为此提出了AdaRNN，主要包含两个模块，TDC（Temporal Distribution Characterization）用来分割时间序列，尽可能让分割出来的分布差异大。TDM（Temporal Distribution Matching）则是减少时间序列中的分布不匹配，学习一种基于RNN的自适应时间序列预测模型。

2023-07-30 19:21:15 448 1

原创论文笔记-Multi-Task Learning as Multi-Objective Optimization

在深度学习，使用多个任务（loss）训练模型时，通常使用最小化加权线性和的方式来训练整个模型。但是这要求多任务之间不存在相互竞争。因此作者提出新的多任务学习方法，将多任务学习转化成多目标优化问题，借助凸优化问题求帕累托（pareto）最优解。

2023-05-16 14:34:31 676

原创论文笔记-graphormer

transformer在图表征中的运用。

2022-09-20 19:45:18 872

原创论文笔记--Attention Based Spatial-Temporal Graph Convolutional Networks for Traffic Flow Forecasting

Attention Based Spatial-Temporal Graph Convolutional Networks for Traffic Flow Forecasting (AAAI 19)Summary作者提出ASTGCN的主要由三个独立组件组成，分别对交通流的三种节奏特性(近期依赖、日周期依赖和周周期依赖)进行建模。每个组件包含两个主要部分：1)有效捕获交通数据中动态时空相关性的时空注意机制；2)时空卷积，即同时使用图卷积来捕获空间模式和通用标准卷积来捕获时间特征。三个组件的结果相融合得

2021-10-03 21:48:37 637 1

原创论文笔记--Hierarchical Graph Convolution Networks for Traffic Forecasting

Hierarchical Graph Convolution Networks for Traffic Forecasting (AAAI 21)Summary作者提出了一种新的层次图卷积网络(HGCN)，通过操作微观和宏观交通图进行交通预测。Problem Definition目前基于GCN的交通预测方法都忽略了交通系统的自然层次结构，既包括道路网络的基本微观层，也包括路网的宏观层，区域或社区的特征和信息在传统的交通规划或宏观特征分析转化理论中发挥着重要作用。问题定义与一般的交通预测问题相同

2021-10-03 21:24:09 964 2

原创论文笔记--Inductive Graph Neural Networks for Spatiotemporal Kriging

Inductive Graph Neural Networks for Spatiotemporal Kriging(AAAI 21){width=“5.768055555555556in” height=“0.8245603674540682in”}Summary在交通中kriging问题（恢复未采样位置/传感器的信号），大多数现有的可扩展Kriging方法(例如，矩阵/张量补全)是直推式学习（transductive），加入新的传感器需要重新训练。作者提出归纳式图神经网络Kriging模型来恢

2021-09-26 15:24:37 1933

原创论文笔记--Fine-Grained Service-Level Passenger Flow Prediction for Bus Transit Systems

Fine-Grained Service-Level Passenger Flow Prediction for Bus Transit Systems Based on Multitask Deep Learning(TITS)Research Objective细粒公交服务级别的流量预测。也就是预测下一个短期间隔内通过每个车站的每个公交线路的每个服务的乘客总数。作者把研究目标从对站点级别对线路级别，提升到线路下不同公交服务（具体到线路上的哪一辆车）级别。Problem Statement细粒

2021-09-26 14:23:32 155 1

原创论文笔记--InterFusion

Multivariate Time Series Anomaly Detection and Interpretation using Hierarchical Inter-Metric and Temporal Embedding (KDD 2021)Summary作者提出了一种无监督的方法（InterFusion）针对学习MTS数据中不同指标间的依赖和时间顺序上的依赖性进行建模。核心思想是通过两个随机潜变量，结合变分自编码机（VAE）对多维时间序列数据中的正确模式进行建模（使用到预过滤策略）。作者

2021-09-25 10:33:25 2417 1

原创论文笔记--Graph Neural Network-Based Anomaly Detection in Multivariate Time Series

Graph Neural Network-Based Anomaly Detection in Multivariate Time SeriesSummary给定多元时序数据（传感器数据），如何检测异常事件（系统错误或者被攻击）？怎样捕获传感器之间复杂关系，解释异常偏离了那些关系？现有的方法没有明确学习变量之间关系结构，用它们预测事件序列的预测行为。作者结合结构学习方法和图神经网络，用注意力权重为检测到的异常提供解释。Problem Statement挑战将图神经网络用于时序数据的异常检测需要

2021-09-24 16:31:50 2262 4

原创论文笔记--Enhancing Personalized Trip Recommendation with Attractive Routes

作者认为现在大部分的兴趣点推荐算法大多只根据POIs本身的受欢迎程度来进行推荐。但事实上POIs之间的一些路线也有吸引力。在这篇论文中作者提出了同时使用POIs和Attractive Route (AR)的方法来个性化旅游路线推荐。论文主要解决了三个问题(1)如何发现有AR? (2) 如何对AR的评分和计算偏好? (3) 如何通过AR来提升个性化的旅行推荐?Problem Definition问题提出如下图，每个大写字母代表一个POI，括号中的数字表示该POI的受欢迎程度。每条路线上的数字表

2021-09-22 16:55:13 192 1

原创论文笔记--Position-aware Graph Neural Networks

现存的GNN都无法获取点的位置信息，不能很好的处理同构的点，作者提出一种用于计算位置感知节点嵌入的新型图形神经网络P-GNN（位置感知图神经网络），用于解决这个问题。该方法主要在于选取锚集，计算给定目标节点到每个锚集的距离，然后学习锚集上的非线性距离加权聚合方案。通过这种方式，P-GNN可以捕获节点相对于锚节点的位置信息。Problem statement现有GNN体系结构的主要限制是无法捕获节点的位置，在更广泛的图结构上下文中。例如，如果两个节点位于图中非常不同的部分但如果具有拓扑上相同的(局

2021-09-21 17:16:07 1637 1

原创论文笔记--FC-GAGA: Fully Connected Gated Graph Architecture for Spatio-Temporal Traffic Forecasting

在时空预测中，作者提出一种不需要预定义图，不使用时空卷积，RNN的预测模型。基本上自使用全连接网络和一些门控来构建时空预测模型。它通过可学习的图形权重来衡量所有的其它节点的历史观测值，通过ReLU函数对他们进行门控，最后将所有节点的门控观测值叠加起来，通过全连接层的残差块处理它们。Problem Definition目前一些基于图的时空预测的模型局限性①模型复杂性较高且运算时长较长②模型依赖于预定义的图③模型往往依赖马尔科夫假设（即默认当前时刻的状态只和它前一个时刻的状态相关。）

2021-09-21 14:33:56 876 1

原创论文笔记--Coupled Layer-wise Graph Convolution for Transportation Demand Prediction

交通预测中，现有的预设图的图卷积方法，不能准确反映车站的真实空间关系，也不能自适应地捕捉需求的多层次空间依赖性。针对上述问题，本文提出了一种新的用于交通预测的图卷积网络。该图卷积结构在不同层使用不同的邻接矩阵，所有的邻接矩阵在训练过程中都是自学习的，提供一种分层耦合机制，将上层邻接矩阵与下层邻接矩阵相关联。最后再将设计的图卷积与GRU（门控循环单元）相结合，构建交通预测网络。Problem DefinitionGCN在交通预测上存在的问题：①决定图卷积网络中聚合方式的邻接矩阵大部分是固定的，大多

2021-09-21 14:25:49 311

原创论文笔记--Connecting the Dots: Multivariate Time Series Forecasting with Graph Neural Networks

作者提出了一个针对多元时间序列数据设计的通用图神经网络框架。通过图形学习模块自动提取变量之间的单向关系。进一步对空间上图卷积层和时间上空洞卷积层进行改进来捕获时间序列中的空间和时间依赖性。Problem DefinitionChallenge: ①在时间序列预测的问题上，目前的GNN方法都依赖于预先定义的图结构。但大多数情况下，多元时间序列没有明确的图结构。变量之间的关系应该从数据种获得。②即使给定空间上的图结构，给定的图结构未必是最优的，在图学习的过程中，应该在训练过程种不断更新。解决

2021-09-21 14:15:11 2329 11

原创论文笔记--Spatial-Temporal Fusion Graph Neural Networks for Traffic Flow Forecasting

Summary在交通预测问题上，现有的框架通常利用给定的空间邻接图和复杂的机制来建模空间和时间关联。作者认为使用给定的空间邻接图会限制模型的有效时空相关性学习，并且它们通常使用单独的模块来实现空间和时间相关性，或者只使用独立的组件来捕获局部或全局的异质依赖关系，割裂了时空依赖关系。为此作者提出一种时空融合图神经网络用于交通预测。提出一种数据驱动的“时间图”生成方法，以此来补偿空间图可能没有反映的相关性。提出一种新的交通预测方法。Problem Definition交通预测中的挑战以上图为

2021-09-21 09:06:46 1114

原创论文笔记--GMAN: A Graph Multi-Attention Network for Traffic Prediction

Chuanpan Zheng, Xiaoliang Fan, Cheng Wang, Jianzhong QiSummary在交通预测问题上，作者针对时空因素提出了一种图多注意网络(GMAN)来预测道路网络图上不同位置的时间步长提前的交通状况。GMAN主要采用了编码解码的架构。编码器和解码器之间包含一个注意力转换模块，模拟历史时间步与未来时间步之间的关系，有助于缓解预测时间步之间的误差传播问题。在实验中对与长时间间隔的预测有非常好的效果。Problem Definition长时间段的交通

2021-09-17 10:47:23 2595

chenxino的博客