2022/12/4周报

最新推荐文章于 2022-12-28 16:21:43 发布

白小李

最新推荐文章于 2022-12-28 16:21:43 发布

阅读量431

点赞数

文章标签：深度学习人工智能

本文链接：https://blog.csdn.net/gldzkjdxwzs/article/details/128173061

版权

摘要

本周在论文阅方面，本周阅读了一篇基于LSTM时间序列重建的生产装置异常检测的论文，对比其它模型LSTM在处理时间序列数据上有着天然的优势。在深度学习上，对LSTM的数学原理进行了学习，了解它在数学上的运行原理，并尝试了推导。

This week,in terms of thesis reading,a paper on abnormal detection of production equipment based on LSTM time series reconstruction is read.Compared with other models, LSTM has natural advantages in processing time series data.In depth learning,learning the mathematical principles of LSTM,understanding its principle and mathematical derivation process.

文献阅读

1、题目和摘要

基于LSTM时间序列重建的生产装置异常检测

DOI：10.11949/j.issn.0438⁃1157.20181050

摘要：工业生产装置通常设置传感器报警阈值进行报警，但是对处于报警阈值以下的时间序列异常难以及时捕捉。基于统计的传统检测方法在解决时间序列异常检测上存在很大挑战，因此提出基于 long short term memory （LSTM）时间序列重建的方法进行生产装置的异常检测。该算法首先引入一层LSTM网络对传感器数据的时间序列进行向量表示，采用另一层LSTM网络对时间序列进行逆序重建，然后利用重建值与实际值之间的误差，通过极大似然估计方法对该段序列进行异常概率估计，最终通过学习异常报警阈值实现时间序列异常检测。采用ECG测试数据、能源数据与危险品储罐传感器数据进行了仿真实验，验证了所提方法在不同长度的数据上的有效性。

2、问题的引出

传感器数值是一类具有时间序列特征的数据对象，具有数量大、维数高、更新速度快等特点，基于时间序列的设备异常检测是一项重要的研究内容。现有的研究方法有的不适用于内部密度差异明显的数据集，有的严重依赖参数，有的难以预测时间序列潜在的异常。LSTM 作为一种递归模型，已经被证明在学习并记忆序列长期信息上具有显著优势。文章算法采用纵向结构的双层LSTM，其中底层 LSTM 学习时间序列的向量表示，顶层 LSTM 则基于向量表示对时间序列进行重建。

检查方法：采用正常数据训练上述两层模型的参数，然后对带有异常值的数据进行序列重建，由于异常序列及其重建序列之间会产生更大的差异，因此可以利用这部分差异来监测异常序列；最后按照极大似然估计得到的高斯分布代入误差平方计算异常出现的概率，若概率超过阈值则判定该序列为异常情况，从而实现异常检测。

3、LSTM结构

LSTM 的核心由 input、forget、output 三个记忆胞组成，其能在每个时刻编码输入的信息。每个记忆胞的行为由门(gate)控制，控制信息保存与否，若保存则为 1，否则为 0。详细来说，forget gate f 控制是否保存当前状态的胞信息，input gate i控制是否读取输入信息，output gate o控制是否输出新的胞信息。储存模块如下所示。

算法的基本流程是首先对给定长度为n的输入时间序列 X ={x*1, *x*2,⋯, *xn* - 1, xn } , xi ∈ Rm ，利用底层LSTM-1对学习数据进行向量表示；然后以LSTM-1末尾状态变量作为 LSTM-2 初始化输入，进行时间序列重建；最后将计算的重建序列与原始序列的误差方差代入极大似然估计法(MLE)估计的高斯分布中，最终得到异常点概率，当概率大于训练得到的阈值τ时，则判定其存在异常。