论文笔记：Long short-term memory network for traffic speed prediction using remote microwave sensor data

论文阅读：Long short-term memory network for traffic speed prediction using remote microwave sensor data

四个问题：

1. 要解决什么问题？
预测短期动态交通

2. 用了什么方法解决？
LSTM

3. 效果如何？
由于在交通预测方面，未来的交通状况通常和长时间跨度的之前所发生的事件有关，LSTM可以解决长期依赖问题，并且可以确定最优时滞，这些优点使使用LSTM算法预测交通状况成为可能。通过和三种递归神经网络和SVM、时间序列和Kalman滤波等算法在同一数据集上进行训练，得出结论：LSTM的精度远超过其他参数方法和非参数方法。

4. 还存在什么问题？
文章比较了在仅输入速度和同时考虑速度和流量时的模型精度，预测结果比仅输入速度稍稍理想一点，但是对性能的提升不是很理想。

论文概述

2.1简介

• 最普遍的数据收集装置是RTMS。RTMS利用微波检测一段路程内的动态和静态的物体。
• 而RTMS的对交通速度的准确率达95%，因此，本模型使用RTMS作为预测器。
• RNN因其有记忆联结单元，因此适合处理短期数据序列。有两个问题：1.用于预测的时间数据的预处理。2.难处理具有长期依赖数据。
• LSTM可以处理长期时间序列问题，并用于预测，本文使用LSTM 来进行短期交通速度预测。

2.2综述
通常情况下，交通预测主要有两种方法：参数方法和无参数方法

2.2.1参数方法
参数建立在某些确定的建设上，并且模型参数可以使用数据计算出来。
参数方法的局限性在于：很难处理大规模实时性数据

2.2.2无参方法
主要含：1卡尔曼滤波器；2.支持向量机；3.人工神经网络
传统的RNN算法存在如下问题：
(1)传统的RNN无法训练处长时间滞后的时间序列
(2)传统RNN依赖于先确定的时间延迟来学习序列处理，但是很难找到时间窗口大小

3.LSTM
LSTM神经网络由一个输入层、一个递归隐层和一个输出层组成。本文中基于先验信息来预测下一个时间的速度

LSTM的神经网络结构
用上述公式迭代计算预测时间。
4.模型开发

本文主要使用LSTM进行短期交通速度预测，并与其他的类型的方法进行比较。主要选取了三种典型的RNN模型（Elman神经网络、时滞神经网络和NARX神经网络）、支持向量回归、ARIMA和Kalman滤波方法。

数据集：两个微波交通探测器被部署在高速公路沿线。数据采集时间为2013年6月1日至2013年6月30日，数据更新频率为2分钟，其中关键信息包括交通量、占用率和速度。共记录42387条，缺失或无效数据813条，数据有效率大于98%。
数据集划分：前25天的数据用于训练以估计模型参数，其余5天的数据用于测试目的。

所提出的模型是根据同一天前一时段的车速和交通量来预测未来2min内的车速。
计算平均绝对百分比误差（MAPE）和均方误差（MSE）来进行不同算法的有效性的比较。
算法实现：通过pybrain机器学习库实现。

5.结果分析

LSTM在只输入速度的情况下比递归神经网络和SVM模型的精度提高至少28%。但是SVM寻找最优参数十分耗时。LSTM不依赖于输入时滞，并且所有场景下的预测结果都是相同的，但是其他算法的预测精度随着时滞的增加而提高。
当同时考虑历史速度和流量时，LSTM在MAPE方向仍然比其他算法优秀，因为LSTM可以自动确定最佳输入窗口大小。

总结：
（1） 时滞在递归神经网络中起着重要作用。适当设置时滞可以提高预测性能。LSTM可以自动确定最优时滞，从而获得满意的结果。
基于以上算法结果分析，可以总结出几个有用的发现：
（2） 由于NARX神经网络可以同时包含先前的输入和外部的输出，所以NARX神经网络的性能优于其他RNN模型。总的来说，NARX神经网络成为时间序列的非线性版本，能够更有效地捕捉流量动态。Elman神经网络存在训练时间长、偶尔学习不成功等问题，不适合作为交通速度预测模型。
（3） 支持向量回归可以对时间序列问题获得相对准确的预测结果，但参数的设置耗时耗力。

6.结论

由于在交通预测方面，未来的交通状况通常和长时间跨度的之前所发生的事件有关，LSTM可以解决长期依赖问题，并且可以确定最优时滞，这些优点使使用LSTM算法预测交通状况成为可能。通过和三种递归神经网络和SVM、时间序列和Kalman滤波等算法在同一数据集上进行训练，可以得出结论：
（1） 速度预测性能随着时间延迟的增加而提高。合理设置最优时滞可以提高速度预测的精度。LSTM神经网络是一种无时滞先验信息的短期旅行速度预测方法。
（2） 在传统的递归神经网络中，NARX神经网络的预测精度最高，而Elman神经网络由于其学习能力不足，即使偶尔能得到最优解，也会产生不可靠的结果。
（3） 基于支持向量机的方法适用于时间序列预测，其结果与NARX神经网络相比具有可比性，但参数的设置耗时耗力。
未来可以同时考虑空间和时间信息来进行。来自相邻检测器的交通速度可以作为附加输入。此外，还应研究不同数据聚合水平下的预测性能。
另一个有趣的研究方向是在LSTM神经网络中加入多层结构，以提高神经网络的学习能力。

补充
DOI：10.1016/j.trc.2015.03.014