（四）MAD-GAN: Multivariate Anomaly Detection for Time Series Data with Generative Adversarial Networks

最新推荐文章于 2022-07-22 09:26:56 发布
最新推荐文章于 2022-07-22 09:26:56 发布
阅读量8.4k 收藏 76
点赞数 33
分类专栏： 论文解析
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/WangZixuan1111/article/details/105103075
版权

内含动画的PPT已经上传，可以在我上传的资源里看到，可免费下载

论文链接：https://arxiv.org/pdf/1901.04997.pdf
论文代码：https://github.com/LiDan456/MAD-GANs
本文一个大的贡献是开源了两个数据集
1、The Secure Water Treatment (SWaT）
2、The Water Distribution (WADI)

本篇论文“MAD-GAN：利用GAN对时间序列数据进行多元异常检测”，发表于2019ICANN上，文章主要围绕”异常检测+多元时间序列+网络入侵+GAN“展开，以下是我这几天阅读该篇文章的收获，其中，模型及结构我自己做了一个动画版，动画版我用了很久的时间去理顺作者的思想做出来的，能够更直观明确地表现出该模型的流程，但是我还不太清楚怎么怎么将动画展示在博客中，后期如果学会我会及时更新，如果有小伙伴着急需要，也可以私信我，对文章理解不到位的地方，也请各位小伙伴指正，共同学习进步！

本文背景

现实世界中的信息物理融合系统（Cyber-Physical Systems），如智能建筑、工厂、发电厂、数据中心等，变得越发巨大和复杂。通常会安装大量的传感器来监测系统的运行状态并检测异常，运维人员从而发现潜在的安全隐患并采取必要的措施。传感器通常生成的是大量的多变量的时间序列，因此本文是基于多变量时间序列的异常检测。异常检测就是找出和系统中正常行为的状态不一致的时间点。通常由于缺乏有标记的数据，异常检测通常是当作无监督的机器学习任务。

本文贡献

（1）提出了基于生成对抗网络（GAN）的多变量时间序列异常检测模型。
（2）以 LSTM 为基本模型来捕获时间上的依赖关系，并将其嵌入到 GAN 的框架中。
（3）同时利用 GAN 的生成器和判别器来检测异常，利用判别器得到判别损失，利用生成器得到重建的损失。

文章目录

一、论文概括
  1. 研究对象
  2. 目标
  3. 方法
  4. 结论

在这里插入图片描述

二、相关的研究工作
  1. 异常检测
  2. MAD-GAN在这里插入图片描述
三、作者的研究方法
  • 模型及分析
  • 子序列的形成
  • DR评分
  • 算法流程
  • 两个CPS数据集介绍
  • 模型相关参数设置
  • 评测指标
  • 实验结果及比对
    在这里插入图片描述
    关于这个模型的理解，我说说我个人的想法，看似没什么，就是一个GAN模型，但是真正每一步去理解它的时候，总感觉有些地方理解的不透彻，怎么把这个模型的原理搞清楚，并且能够清晰地解释给别人听，让别人也能听明白并理解这个模型，我花了较长时间去思考，某天深夜，想喝奶茶，突然灵机一动，奶茶的例子能够解释这个模型。

（1）为了理解模型的每一块，花了很长的时间做了上面这张图的动态PPT，PPT会跳转出来该模型的怎么运行的，通过动画更能清楚明白地去理解，建议大家先下载定位到这一页再看下面的文字描述解释。

（2）首先分成两个部分，训练阶段+异常检测阶段

  • 训练阶段，看成是对奶茶店的新入职的员工进行培训，让她具备制作奶茶的技能；
  • 异常检测阶段，看成新员工通过培训，去上岗给顾客做奶茶，顾客的反馈就是检测

（3）具体理解

角色：制作奶茶新员工A（Generator）+品尝奶茶新员工B（Discriminator）+奶茶制作清单Random Latent Space

- 训练阶段

角色：制作奶茶新员工A（Generator）+品尝奶茶新员工B（Discriminator）+奶茶制作清单Random Latent Space

  • 首先新员工A（Generator生成器，做奶茶的人)进入培训阶段，首先会拿到一份奶茶制作清单Random Latent Space（可以看成一点点他们家所有饮品的列表）——>新员工需要根据所获得的这份清单去练习制作奶茶（生成样本）——>员工A将制作出来的奶茶给另一位新员工B(Discriminator)去判定自己制作的这杯奶茶怎么样——>B因为也是刚入职，所以她凭借自己品过的奶茶（训练样本）的少许经验去给A提出修改意见（Score）——>A收到修改意见继续努力进步，同时B也在不断地提高自己的鉴品能力——>在反复进行的过程中,A,B都满足了“一点点公司”上岗要求。

此时场景从幕后转换到幕前，A,B上岗啦！！

- 异常检测阶段

角色：制作奶茶新员工A（Generator）+品尝奶茶新员工B（Discriminator）+奶茶制作清单Random Latent Space+顾客下单饮品(测试样本，测试样本中的订单中有一点点，Coco,星巴克，鹿角巷等，正常的订单是一点点，其它的视为异常)

  • AB开始上班啦！有顾客开始点单啦！但是顾客点单的方式并不完全中规中矩，比如，红茶玛奇朵，顾客会说成玛奇朵（订单是一点点的，匹配度高，正常）；但是会有顾客说我要一杯香草榛果拿铁（订单是星巴克家的，匹配度低，异常）
  • 检测正常：A收到订单（测试集），顾客说要波霸奶茶，波霸奶茶被映射到Random Latent Space（一点点的菜单里能找到）——>A对应找到波霸奶茶，顾客订单和菜单匹配度100%——>根据制作出来波霸奶茶——>顾客拿到做好的奶茶与自己的订单比较——>一致，重构损失0，并且旁边的B在监督的过程中观察到A是根据菜单里做的，匹配，判别损失0——>这个订单正常
  • 检测异常：A收到订单（测试集），顾客说要香草榛果拿铁，香草榛果拿铁映射到Random Latent Space（一点点的菜单里没有找到）——>A没有找到100%匹配的，根据最高相似度找到香草奶茶，制作出香草奶茶——>顾客拿到做好的奶茶与自己的订单比较——>不一致，重构损失大，原来香草榛果拿铁是星巴克的，一点点没有，只好按照最高匹配度找到一杯和香草榛果拿铁差不多的饮品制作——>这个订单异常

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

是肉球哇
关注
  • 33
    点赞
  • 踩
  • 76
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 29
    评论
专栏目录
【多元时序异常检测】InterFusion
weixin_41403341的博客
07-01 1168
在工业界，一个异常事件通常会持续一段时间，对于一个包含多个指标的实体，由于指标间的相关性，不同的指标通常会在该异常时间段的不同时间点先后显示出异常形态（比如在同一个异常段中，与网络相关的监控指标在第t时刻被丢弃，与CPU相关的监控指标在第t + t0时刻被丢弃，原因是来自网络的请求数量减少。因此在进行异常解释时。这里为什么要对测试点样本进行修正，可能有些不好理解，我自己个人理解如下：本质上，interFusion是基于正常样本进行训练的模型，学习到的是样本的正常分布形态，模型训练完成，参数已经固定了。
【时序异常检测翻译】2.MAD-GAN: Multivariate Anomaly Detection for Time Series Data with Generative Adversarial
yy1158047452的博客
02-25 348
转自@今天也是菜醒的一天
【论文分享】MAD-GAN ：基于生成对抗网络的时间序列数据多元异常检测
热门推荐
zn0412的博客
07-23 1万+
2019年ICANN文章 无监督学习 摘要         网络化传感器和执行器在许多现实系统中的普及，例如智能系统建筑物、工厂、发电厂和数据中心为这些系统生成大量的多元时间序列数据。许多这样的网络物理系统（cps）是为关键任务而设计的，因此是网络攻击的目标。丰富的传感器数据可以通过异常检测持续监控入侵事件。然而，由于这些系统的动态复杂性，传统的基于阈值的异常检测方法是不够的，而有监督的机器学习方法由于缺乏标记数据而无法利用
Gan初探(二)序列生成 Mad-Gan、Seq-Gan实验
yzsjwd的博客
08-27 1656
背景 将用户行为转化为序列数据后，需要做部分种类的样本做数据增强。 介绍 Mad-Gan：使用Gan完成异常检测。 生成器与判别器都换成了lstm，其他和SGan没有任何区别。从随机向量生成序列。 优点：将生成器加入到异常判别的队伍中，通过构造随机向量的方法得到重构目标样本的损失，加权和判别网络得到的分数求和，卡个阈值判断异常点 缺点：生成器其实无法生成高质量的序列样本，个人认为它没有解决序列生成的几个问题。 序列生成存在的问题:(1)离散数据很难使用梯度更新 (2)判别器很难对不完整序列判断真假 Se
MAD-GAN: Multivariate Anomaly Detection for Time Series Data with Generative Adversarial Networks
baidu_41586315的博客
05-19 1601
MAD-GAN: Multivariate Anomaly Detection for Time Series Data with Generative Adversarial Networks 文章目录MAD-GAN: Multivariate Anomaly Detection for Time Series Data with Generative Adversarial Networks一、引言1.背景2.论文贡献二、使用步骤1.引入库2.读入数据总结 一、引言 1.背景 现实世界中的信息物理融
PyCharm使用异常的解决办法2020-12-22
qq_44872440的博客
02-28 3541
针对python的路径更改（python位置以及路径名称的变化）所造成的问题 一、PyCharm使用异常 因为python的位置变化，会导致PyCharm对python的关联失效，当更改PyCharm中python的路径为正确路径后，当在PyCharm中安装库文件仍会失败，原因的pip需要重新安装，但如果之前安装的pip为最新版本，则无法卸载，需要以下语句强制重新安装：python -m pip install --upgrade pip --force-reinstall ，如果出错的话，有提示安装
GAN（生成对抗网络）在合成时间序列数据中的应用（第一部分——利用GAN生成合成(synthetic)数据）
White__River的博客
07-06 5856
GAN（生成对抗网络）在合成时间序列数据中的应用（第一部分——利用GAN生成合成数据） （本文基本是对Jasen 的《Machine Learning for Algorithmic Trading》第二版的第21章进行翻译、改写和复现，并用于我们的实际情况） 1. 准备阶段 配置介绍 在Anaconda下安装TensorFlow以及在Jupyter Notebook中引用的准备，可以参考以下文档 https://www.tensorflow.org/tutorials/quickstart/beginne
【时间序列】多变量时间序列异常检测数据集整理及标准化处理代码合集
AI蜗牛车
07-22 1万+
最近在做多变量时间序列异常检测相关的工作，顺带也整理了目前市面上比较常用的五个多变量时间序列异常检测数据集，测试集都有标好的label，这五个数据集应该是在这个领域最为常用benchmark的数据集，整理主要来自于很多顶会的对比实验。本文主要介绍五个数据集的具体信息和对应的标准化处理，并给出处理的代码和最终标准化的格式。...
time-series-autoencoder:Pytorch双注意LSTM自动编码器，用于多元时间序列预测
05-01
下载和依赖项要克隆存储库，请运行： git clone https://github.com/JulesBelveze/time-series-autoencoder.git要安装所有必需的依赖项，请运行： pip install -r requirements.txt用法python main.py [-h] [--batch...
XAI-Multivariate-Time-Series:多元时间序列分类的XAI方法
04-01
在这个项目“XAI-Multivariate-Time-Series”中，我们将探讨如何使用Jupyter Notebook来实现和解释多元时间序列的分类模型。 在多元时间序列数据中，每个样本通常包含多个变量在不同时间点的观测值。这些变量可能...
Time Series_ Data Analysis and Theory
09-11
经典的David R. Brillinger的时间序列分析和理论，傅里叶变换、功率谱分析、循环平稳特性分析都囊括其中
第七篇论文.pptx
04-16
《Outlier Detection for Time Series with Recurrent Autoencoder Ensembles 基于递归自编码集成的时间序列离群点检测》
LSTM-based Stacked Autoencoder for Multivariate time Series forecasting.pdf
03-31
Unsupervised pre-training of a Deep LSTM-based Stacked Autoencoder for Multivariate time Series forecasting problems Alaa Sagheer
multivariate-timeseries-forecasting:一组用于多元时间序列预测的算法
04-28
本文将详细探讨"multivariate-timeseries-forecasting"项目，这是一个专门针对此类问题的算法集合，主要关注长短期记忆网络（LSTM）和门控循环单元（GRU）的应用。 LSTM和GRU是递归神经网络（RNN）的变体，特别适合...
python-anomaly-detection:一种使用半监督学习在Python中实现异常检测的面向对象方法
05-14
使用面向对象进行异常检测 编写此Python3笔记本是为了熟悉Python中的面向...在kaggle上找到的信用卡欺诈数据集的计算结果： ：//www.kaggle.com/mlg-ulb/creditcardfraud/data 为了获得更好的视图，请使用以下nbviewer
USAD : UnSupervised Anomaly Detection on Multivariate Time Series
小蚂蚁与大象
06-07 1549
IT系统的自动监管是Orange目前面临的一个挑战。考虑到其IT业务的规模和复杂性，随着时间的推移，用于推断正常和异常行为所需的传感器数量急剧增加，使得传统的基于专家经验的监管方法变得缓慢或容易出错。本文提出了一种基于逆训练自编码器的多元时间序列无监督异常检测(USAD)方法。它的自动编码器架构使它能够以一种无监督的方式学习。对抗性训练的使用及其架构使其能够隔离异常，同时提供快速训练。我们通过在5个公共数据集上的实验研究了我们的方法的性质，从而证明了它的鲁棒性、训练速度和较高的异常检测性能。通过使用Oran
Graph Neural Network-Based Anomaly Detection in Multivariate Time Series 代码配置及解析
cloudless_sky的博客
07-20 1962
论文代码复现
[文献阅读]Robust Anomaly Detection for Multivariate Time Series through Stochastic RNN
RegulusF的博客
03-03 3637
Robust Anomaly Detection for Multivariate Time Series through Stochastic Recurrent Neural Network 发表会议：2019 KDD
《异常检测——从经典算法到深度学习》13 MAD: 基于GANs的时间序列数据多元异常检测
Smileyan's blog
08-05 9141
《异常检测——从经典算法到深度学习》 0 概论 1 基于隔离森林的异常检测算法 2 基于LOF的异常检测算法 3 基于One-Class SVM的异常检测算法 4 基于高斯概率密度异常检测算法 5 Opprentice——异常检测经典算法最终篇 6 基于重构概率的 VAE 异常检测 7 基于条件VAE异常检测 8 Donut: 基于 VAE 的 Web 应用周期性 KPI 无监督异常检测 9 异常检测资料汇总（持续更新&抛砖引玉） 10 基于条件 VAE 的鲁棒无监督KPI异常检测 11 针对
mad-gan异常检测代码
最新发布
11-23
根据提供的引用内容，Mad-Gan是使用LSTM作为生成器和判别器的GAN模型，用于异常检测。由于没有提供具体的代码，以下是一个Mad-Gan的异常检测代码的示例： ```python import numpy as np import tensorflow as tf from tensorflow.keras.layers import Input, Dense, Reshape, LSTM, Dropout from tensorflow.keras.models import Model from tensorflow.keras.optimizers import Adam from tensorflow.keras import backend as K # 定义生成器模型 def build_generator(latent_dim, n_features): # 输入层 input_layer = Input(shape=(latent_dim,)) # 将输入转换为3D张量 reshaped_input = Reshape((1, latent_dim))(input_layer) # LSTM层 lstm_layer = LSTM(100, activation='relu')(reshaped_input) # Dropout层 dropout_layer = Dropout(0.2)(lstm_layer) # 输出层 output_layer = Dense(n_features)(dropout_layer) # 定义模型 model = Model(input_layer, output_layer) return model # 定义判别器模型 def build_discriminator(n_features): # 输入层 input_layer = Input(shape=(1, n_features)) # LSTM层 lstm_layer = LSTM(100, activation='relu')(input_layer) # Dropout层 dropout_layer = Dropout(0.2)(lstm_layer) # 输出层 output_layer = Dense(1, activation='sigmoid')(dropout_layer) # 定义模型 model = Model(input_layer, output_layer) return model # 定义GAN模型 def build_gan(generator, discriminator): # 冻结判别器的权重 discriminator.trainable = False # 定义GAN模型 gan_input = Input(shape=(latent_dim,)) x = generator(gan_input) gan_output = discriminator(x) gan = Model(gan_input, gan_output) # 编译GAN模型 gan.compile(loss='binary_crossentropy', optimizer=Adam(lr=0.0002, beta_1=0.5)) return gan # 定义损失函数 def custom_loss(y_true, y_pred): mse = K.mean(K.square(y_pred - y_true), axis=1) return mse # 加载数据 data = np.load('data.npy') # 定义超参数 latent_dim = 5 n_features = data.shape[1] # 构建生成器和判别器模型 generator = build_generator(latent_dim, n_features) discriminator = build_discriminator(n_features) # 构建GAN模型 gan = build_gan(generator, discriminator) # 训练GAN模型 for epoch in range(epochs): # 生成随机向量 random_latent_vectors = np.random.normal(size=(len(data), latent_dim)) # 生成异常数据 generated_data = generator.predict(random_latent_vectors) # 将异常数据和真实数据合并 X = np.concatenate([data, generated_data]) # 为真实数据和异常数据创建标签 y = np.zeros(2 * len(data)) y[:len(data)] = 1 # 训练判别器 discriminator.trainable = True discriminator.train_on_batch(X, y) # 训练生成器 noise = np.random.normal(size=(len(data), latent_dim)) y2 = np.ones(len(data)) discriminator.trainable = False gan.train_on_batch(noise, y2) # 使用生成器生成异常数据 random_latent_vectors = np.random.normal(size=(len(data), latent_dim)) generated_data = generator.predict(random_latent_vectors) # 计算异常数据的损失 loss = custom_loss(data, generated_data) # 输出异常数据的损失 print('Loss:', loss) ```
评论 29
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

是肉球哇

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值