论文笔记：Mind the Gap An Experimental Evaluation of Imputation ofMissing Values Techniques in TimeSeries

最新推荐文章于 2023-11-22 10:47:19 发布

UQI-LIUWJ

最新推荐文章于 2023-11-22 10:47:19 发布

阅读量541

点赞数

分类专栏：论文笔记文章标签：大数据

本文链接：https://blog.csdn.net/qq_40206371/article/details/125721574

版权

论文笔记专栏收录该内容

313 篇文章 78 订阅

订阅专栏

pVLDB 2020

1 abstract & intro

这篇论文横向比较了12种 time-series imputation的方法。作者声称这是第一篇深入讨论这些模型的准确度、效率和参数化。

由于不同的方法使用的编程语言不同，作者用C++ 重新写了这些方法eXascaleInfolab/bench-vldb20 (github.com)

当然，这篇文章也有自己的一些finding：

没有单一的最佳准确算法。
- SoftImpute 和 TRMF ——>表现出重复趋势的数据集上最准确的算法
- CDRec ——>具有相关性变化较大的时间序列上最准确的算法
- STMVL——> 是高度相关的时间序列上的最准确算法
- DynaMMo——> 适用于不规则波动的数据集。
较大的缺失块有时可以产生更高的恢复精度。
- 这是由于某些算法的迭代性质。大的缺失块需要大量的迭代，这反过来会产生更好的恢复值。
BlackOut问题在准确性上仍具有挑战。
- BlackOut是指所有传感器同时没有观测值。
- Table 1 种的方法中，没有一种技术能以高精度进行BlackOut补全。【注：这是20年的paper，之后有方法专门进行blackout的补全】论文笔记：Hankel Matrix Factorization for Tagged Time Series to Recover Missing Values during Blackouts_UQI-LIUWJ的博客-CSDN博客
- 只有 CDRec 和 DynaMMo 显示了（一些）可接受的结果。
小维度产生最好的结果。
- 依赖于降维的技术可以获得更好的性能。
运行时间差距很大。
- 最有效的算法 SVDImpute 和 CDRec 比最慢的 DynaMMo 快三个数量级。

2 Background

作者把imputation算法分成的两类

matrix-based方法，如上图(b)
patten-based方法，如上图(c)，查看之间几个interval内时间序列的pattern（query pattern）和需要补全的时间序列的相似程度

论文使用RMSE和MSE作为metric

其中T是missing value 的集合， $x_t,\tilde{x_t}$ 分别是原始数据和补全预测的值

RMSE会比MSE对大误差更敏感

3 比较的模型

基于矩阵的方法	SVDImpute(2001)	SVD分解，只选取前面k维
	SoftImpute(2010)	论文笔记 Spectral Regularization Algorithms for Learning Large IncompleteMatrices （soft-impute）_UQI-LIUWJ的博客-CSDN博客
	SVT(2014)	基于SVD的分解，但是k是自动确定的
	CDRec（2014）	首先利用interpolation和extrapolation进行初步补全然后迭代进行如下操作，直到收敛将补全了之后n×m的矩阵X 分解为n×m的矩阵L和m×m的矩阵R $X=L\cdot R^T$ 取L和R的前k列，得到这一轮的 $X'=L_k \cdot R_k^T$
	GROUSE（2016）	基于PCA的补全（但PCA不就是SVD嘛。。。不清楚有啥区别）
	SPIRIT（2005）	进行流式时间序列的补全首先使用PCA 降维至k 然后对每个变量拟合一个自回归模型AR，用于补全估计值和真实值都用于更新AR系数
	ROSL（2014）	基于 PCA 的算法专门用于对损坏的数据进行去噪。它假设输入矩阵包含损坏的数据，并建议使用矩阵的正交子空间进行更好的估计。
	TeNMF（2017）	基于非负矩阵分解找到并利用时间序列之间的关联性
	TRMF（2016）	论文笔记:Temporal Regularized Matrix Factorization forHigh-dimensional Time Series Prediction_UQI-LIUWJ的博客-CSDN博客
基于pattern的方法	TKCM（2017）	使用过去某些patten，来判断当下缺失值应该怎么选择
	DynaMMo（2009）	基于卡尔曼滤波和EM
	STMVL（2016）	关注两种类型的相关性：空间相关性（传感器之间的地理距离）时间相关性（时间值的接近性）。在内部，STMVL 将数据平滑技术与协同过滤相结合，从历史数据中导出模型。然后，这些模型用于根据传感器的接近程度（由衰减率表示）来估计缺失值。

4 实验部分

4.1 数据集& 补全效果

eXascaleInfolab/bench-vldb20 (github.com)

4.2 参数的影响

这里只讨论了每个模型最主要的那个参数对CPU和准确度的影响（每张图都根据其最大值进行相应的放缩）

大部分算法中，最重要的是维度K
大部分基于矩阵（第一排所有，第二排左三）的模型运行时间和k同增长【除了SVT]
- ——>但是增加k并不会保证performance的增加
  - ——>k的作用是降维，保持有用且重要的那些信息；如果k太大的话，边缘和不重要的信息也被考虑进来了，这会破坏imputation的效果

4.3 丢失率大小的影响

这些数据集中的每一个都呈现出一个特殊的特征。

Chlorine数据集（参见图 3b）具有重复趋势，TRMF 和 SoftImpute 对此反应特别好。两种技术分别使用的AR和EM模型可以捕捉数据内部的规律性，准确检测趋势重复。
Gas 数据集（参见图 3c）呈现混合相关性，CDRec 可以通过使用权重向量来捕获这些相关性。
Climate（参见图 3d）和电力数据集（参见图 3e）都存在不规则性——分别是波动和偏移的时间序列——DynaMMo 和 SoftImpute 处理得很好，因为它们关注时间序列的共同演化
temperature数据集（参见图 3f）以其非常高的（地理、空间）相关性而脱颖而出。这就是为什么通过设计捕获此类模型的 STMVL 表现如此出色的原因。

我们从这个实验中得出结论，目前只能通过专业化、数据特征与算法设计的仔细配对来实现绝对最佳精度。我们还注意到，专业化可能会牺牲稳定性。例如，STMVL 在温度数据集上表现良好，但在包含大量时间序列（如 Gas（m = 100））或长时间序列（如 BAFU（n = 50k））的大型数据集中，其准确性尤其差，分别参见图 3c 和 3h。

我们还在这个实验中观察到，误差并不总是随着missing rate的大小而增加。 在三个数据集中，Chlorine（参见图 3b）、Gas (（参见图 3c）和Meteo（参见图 3g），趋势相反。这可能是因为，，missing rate越大，算法可以用来计算恢复的迭代越多。更多的迭代意味着更多的机会来细化初始化缺失块的值。

4.4 序列数量和长度的影响

图 4 描述了增加时间序列的长度或时间序列的数量时不同数据集的performance。

missing rate 设置为 10%。

当序列长度变化时，时间序列的数量设置为 10。

当序列数量变化时，时间序列长度设置为 1k 。

使用不同数据集的平均 RMSE 和 MAE ，以标准差作为置信区间。

4(a) 4(b)——越长的序列效果越好（更多的数据可以更好地捕捉时间序列的pattern）
4(d)——时间序列数量越多，MAE越小——同一个数据集中更多的时间序列对算法有帮助（矩阵分解中的降维，STMVL中的时空模型）
4(c)——RMSE却没有如MAE一样的特点——RMSE更容易受异常值的影响——增加时间序列后，一些outliner也会被引入进来，这就导致了RMSE可能效果不是很好

4.5 不同丢失数据pattern的影响

这一小节，作者考虑了不同missing pattern情况下时间序列补全的影响

4.5.1 disjoint missing blocks

这里让时间序列的长度和数量都是最大可以取到的值，同时将缺失的时间序列数从1一直递增

对于时间序列较多/较少的模型，RMSE会先增后减
- 增加是因为我们增加了不完全的时间序列数量，这导致了missing value数量的增多
- 减少作者的意思是有更多的不完全的时间序列，会避免较早的termination，更好地进行补全（这一点我的理解是，以TRMF为例，可能time-series的某几个片段就是没有autoregression的特点，但其他片段有，所以如果加上带没有autoregression片段的time-series的话，那么反而误差会上去。但之后新加进来的time-series，被遮去的片段可能是包含autoregression特点的,所以又会“向回拉”一点RMSE的值）
6(b)——这边随着missing time-series数量的增多，RMSE确实在减少
- STMVL没有什么变化，可能是和他是一个时空模型有关
- 【至于为什么这个没有先增后减的特点，我的猜测是，可能和数据集有关：Chlorine数据集可能一开始就是outliner（这个如果熟悉这个数据集的同学可以帮我check一下】