1 交通预测
AAAI2019 | 交通预测论文笔记《Attention Based Spatial-Temporal Graph Convolutional Networks for Traffic Flow Forecasting》_UQI-LIUWJ的博客-CSDN博客 | ASTGCN: 1)使用空间注意力机制来建模空间层面复杂的相关性 2)使用时间注意力机制来捕获不同时间之间的动态时间相关性 3)使用图卷积来捕获交通图中的空间特征;以及不同时间篇之间的依赖关系 |
IEEE Transactions on Intelligent Transportation Systems 2021 | 交通预测论文翻译:Deep Learning on Traffic Prediction: Methods,Analysis and Future Directions_UQI-LIUWJ的博客-CSDN博客 | 综述性质论文,同时给出了一些公共数据集 |
IJCAI 2018 | 交通预测论文笔记:Spatio-Temporal Graph Convolutional Networks: A Deep Learning Frameworkfor Traffic Forecast_UQI-LIUWJ的博客-CSDN博客 | |
ICLR 2022 | 论文笔记:COST: CONTRASTIVE LEARNING OF DISENTANGLEDSEASONAL-TREND REPRESENTATIONS FORTIME SERIES FOREC_UQI-LIUWJ的博客-CSDN博客 | 将时间序列解耦成趋势表征和周期表征,同时使用了对比学习 |
iclr 2017 | 论文笔记:DCRNN (Diffusion Convolutional Recurrent Neural Network: Data-Driven Traffic Forecasting)_UQI-LIUWJ的博客-CSDN博客 | 使用双向扩散卷积+GRU,建模空间和时间依赖性 |
1.1 交通补全 imputation
1.2 next location recommendation
论文阅读笔记:STAN: Spatio-Temporal Attention Network for Next Location Recommendation_UQI-LIUWJ的博客-CSDN博客 | 提出一种基于注意力机制的神经网络架构,考虑用户访问轨迹中每个访问点相较于整个过往访问轨迹的时空关系,以此对不相邻非连续但功能相近的访问点进行关联,打破以往仅仅关联连续、相邻访问点的限制。 | |
1.3 time-series forecasting
1.5 region representation
论文笔记:Region Representation Learning via Mobility Flow_UQI-LIUWJ的博客-CSDN博客 | 2017 CIKM 使用了flow graph和spatial graph来学习region 向量表征 每一个点表示(地理空间上的点+时刻)
|
2 data ming
Data Mining 论文翻译:Deep Learning for Spatio-Temporal Data Mining: A Survey_UQI-LIUWJ的博客-CSDN博客 | ||
1998 KDD | 论文笔记:Integrating Classification and Association Rule Mining (CBA算法)_UQI-LIUWJ的博客-CSDN博客 |
|
3 其他
3.1 RL
GNN
2021ICML | 论文笔记:E(n) Equivariant Graph Neural Networks_UQI-LIUWJ的博客-CSDN博客 | 在传统GNN的基础上,每个点不仅有标量信息,还有矢量信息,EGNN可以保证矢量经过EGNN之后平移、旋转、排列等变性 |
IJCAI | 论文笔记:GraphSleepNet: Adaptive Spatial-Temporal Graph Convolutional Networks for Sleep Stage Classific_UQI-LIUWJ的博客-CSDN博客 | 自适应邻接矩阵+STGCN+时空注意力,用于睡眠阶段分类 |
3 cv
bio
论文笔记:Highly accurate protein structure prediction with AlphaFold (AlphaFold 2 & appendix)_UQI-LIUWJ的博客-CSDN博客 | 利用Transformer变体,物理和生物知识,预测蛋白质3D结构 原子级别的误差 |
4 总结
4.1 交通预测
4.1.1 早期模型的缺点
数据建模 | 使用数学工具(比如微分方程)和物理知识来模拟交通场景,解决交通问题 但这需要复杂的系统化的编程,还需要大量的算力。 同时,不切实际的假设和简化很有可能会使得预测的精准度不足 因此,随着交通数据收集和存储技术的进步,越来越多的研究侧重于数据驱动 | |
时间序列分析模型 | 历史平均HA、ARIMA、VAR | 难以解决数据的不稳定行和非线性 这些模型需要数据满足一些假设,但是交通数据过于复杂,无法满足这些假设,所以这些模型在交通预测领域的表现不尽人意 这种模型受限于对于时间序列平稳性的假设,同时它没有把时空相关性纳入考虑范围。因此,这种方法没法解决高度非线性的交通流量预测问题。 |
传统机器学习 | KNN, SVM | 1)难以同时考虑高维交通数据集中时空相关性 2)十分依赖特征的选择和建立 |
一些深度学习模型 | ST-ResNet、CNN+LSTM DBN SAE | 仍然难以同时建模交通数据中时间和空间特征的相关性 |
RNN | 略了传感器之间的空间相关性。 |
4.2 交通补全
传统的时间序列方法 | 自回归模型(autoregressive)和动态线性模型(DLM) |
|
向量自回归模型(VAR)和高斯过程(GP) | 当我们试图分析一个多元时间序列时,VAR和GP需要指数计算成本。因此,这些模型在分析大尺度时空数据时是不可行的。 | |
矩阵 | 低秩矩阵分解(MF)或矩阵补全(MC) |
|
TRMF | 该方法在分解框架中引入了自回归正则化器。然而,他们没有考虑学习空间依赖性的问题。因此,我们能否对未知的位置进行精确的插值和预测仍然是个问题。 |
4.3 地点序列推荐
注意力机制和图模型 | 1)空间上不相邻且时间上非连续的访问点可能是功能相关的,然而过去的绝大多数模型只考虑空间上处于一个区域且时间上前后邻近的访问点的时空关联; 2)空间上划分区域的方法使得模型对空间距离不敏感,不可避免地丢失了空间差信息和不相邻点的关联信息; 3)过去模型没有充分考虑用户访问频率。 | |
4.4 time-series
5 NLP
带噪声的文本情感分类 | 论文笔记:Learning with Noisy Labels for Sentence-level Sentiment Classification_UQI-LIUWJ的博客-CSDN博客 |