异常数据检测 | Python实现Anomaly-Transformer时间序列异常数据检测

已于 2022-08-14 16:53:17 修改
阅读量1.9k 收藏 9
点赞数
分类专栏： 异常数据检测 文章标签： transformer 深度学习
于 2022-08-14 16:49:47 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_59771180/article/details/126333230
版权
异常数据检测 专栏收录该内容
15 篇文章 60 订阅 ¥29.90 ¥99.00
订阅专栏
本文介绍了Anomaly-Transformer在时间序列异常检测中的应用，该模型结合了先验关联（可学习的高斯核函数）和序列关联（Transformer注意力机制），通过关联差异来判断异常点。这种方法旨在解决传统方法在处理关联差异时间序列异常检测时的局限性。
摘要由CSDN通过智能技术生成

文章目录

文章概述

Anomaly-Transforme处理关联差异的时间序列异常检测
时间序列中异常点的无监督检测是一个具有挑战性的问题，它需要模型学习信息表示并得出可区分的标准。

研究内容

在深度网络上，异常检测的研究主要在：

● 学习时序数据点级别的表征，进而依靠重建或预测误差进行判定，例如RNN；

● 通过图来显式关联建模，将具有不同时间点的时间序列表示为顶点，并通过随机游走检测异常。例如GNN。

但上面两种方式分别有以下缺点：

● pointwise表征信息量较少，并且可能被正常模式主导，使得异常点难以区分。

● 学习到的图仍然仅限于单个时间点，这对于复杂的时间模式是不够的，无法捕捉每个时间点与整个时间序列的关联。

1
Anomaly-Attention内有两个关联（可以把它理解成点与时序的关联分布，前者是先验假设，后者是模型自学的经验分布）：

●

了解本专栏 订阅专栏 解锁全文
算法如诗
关注
专栏目录
订阅专栏
【时间序列异常检测】Anomaly Transformer
AI蜗牛车
08-20 3467
论文：ICLR2022 | Anomaly transformer: Time series anomaly detection with association discrepancy [1]作者：徐介晖，吴海旭，王建民，龙明盛机构：清华大学软件学院BNRist代码：https://github.com/thuml/Anomaly-Transformer录播：https://www.bilibi...
异常Transformer：具有关联差异的时间序列异常检测
weixin_45731480的博客
02-26 1133
时间序列中异常点的无监督检测是一个具有挑战性的问题，它要求模型推导出一个可区分的准则。以前的方法主要通过学习逐点表示或成对关联来解决这个问题，然而，这两种方法都不足以解释复杂的动力学。近年来，Transformers在点态表示和成对关联的统一建模方面表现出了强大的能力，我们发现每个时间点的自注意权重分布能够体现出与整个序列的丰富关联。我们的关键观察是，由于异常的罕见性，从异常点到整个序列的非平凡关联是非常困难的，因此，异常的关联应主要集中在其相邻的时间点。
PyAnomaly 项目教程
gitblog_00953的博客
09-12 311
PyAnomaly 项目教程 PyAnomaly Useful Toolbox for Anomaly Detection 项目地址: https://gitcode.com/gh_mirrors/py/PyAnomaly ...
用Python实现时间序列模型实战——Day 19: 时间序列中的异常检测与处理
最新发布
qq_41698317的博客
09-13 1811
通过不同的方法，我们可以有效检测时间序列中的异常值，并通过多种插值技术处理缺失数据。基于异常检测结果，我们可以决定是删除异常点还是进行插值处理。缺失值的处理方式应根据具体业务场景选择，线性插值通常能提供更平滑的补全结果，而前向填充适用于快速波动的数据。
时间序列预测/相似性搜索/异常检测
xys430381_1的专栏
10-19 2901
时间序列预测 时间序列预测方法总结 #22 知识分享：时间序列深度学习综述 时许异常检测 时间序列异常检测（一）—— 算法综述 时间序列异常检测（二）—— 基于KDD99数据集的实战 【论文分享】–多维时间序列异常检测 时序异常检测算法概览 AutoEncoder 是一种典型的无监督方法，可以将其扩展为 variational AutoEncoder，或者引入情景信息，从而扩展为 Conditional Variational AutoEncoder（CVAEs (Conditional Variation
[时序异常检测]Anomaly Transformer算法详解
wlgtcl的博客
03-20 2251
因此最大阶段将对序列关联进行更强的约束，迫使时间点更加关注非相邻区域。在重构损失下，异常比正常时间点更难达到这一点，从而放大了关联差异的正常-异常可分辨性。在最大化阶段，我们对序列关联进行优化，扩大关联差异。解释：对于异常点，Gauss距离会关注附近的点，注意力也会如此，导致AssDis很小， 如果放大AssDis，则会使其关注较远的点。作者采用对称KL散度形式化先验关联和序列关联之间的关联差异，表示这两个分布之间的信息增益。，使先验关联适应不同的时间序列模式，主要用于匹配不同长度的异常时间段。
Python-Curve一个用于时间序列数据异常检测的综合实验平台
08-11
Curve：时序数据异常标记工具。Curve是由百度和清华大学联合推出的一款开源工具，用于帮助开发者标记时序数据中的异常。标签数据（也就是真实有效值）对于评估时序数据异常检测方法非常有必要。否则，我们无法轻松选择好检测方法，或者确定模型A好于模型B。Curve能让开发者在上面使用强大的自定义函数，高效标记数据。
《异常检测——从经典算法到深度学习》21 Anomaly Transformer：具有关联差异的时间序列异常检测
热门推荐
Smileyan's blog
06-20 1万+
anomaly-transform
融合transformer和对抗学习的多变量时间序列异常检测算法TranAD论文和代码解读...
AI蜗牛车
10-26 5322
一、前言今天的文章来自VLDBTranAD: Deep Transformer Networks for Anomaly Detection in Multivariate Time Series Data论文链接：https://arxiv.org/pdf/2201.07284v6.pdf代码地址：https://github.com/imperial-qore/TranAD二、问题在文章中提出...
【论文阅读】基于深度学习的时序异常检测——Anomaly Transformer
weixin_36488653的博客
08-07 1943
基于深度学习的异常检测：Anomaly Transformer
时间序列突变点检测
qq_41722101的博客
05-16 6946
我对时间序列异常点算法小结： 基于时间序列的异常检测算法小结_Jasminexjf的博客-CSDN博客_基于时间序列的异常检测算法 当前异常检测类型： 最重要的异常类型，例如意外的峰值、下降、趋势变化和水平转移 我主要研究的是负荷预测的突变点，所以异常针对的是： STL分解: 你所能做的就是利用显著性水平来调整你的置信区间 分类与回归树:xgboost缺点是越来越多的特征会很快影响您的计算性能。 在我的数据集中，异常点并没有被标记，让 CART 算法自动寻找数据集中的模式，预测异常点的置...
用于评估各类时间序列异常检测(Time Series Anomaly Detection) 算法的框架源码+项目说明.zip
02-21
用于评估各类时间序列异常检测(Time Series Anomaly Detection) 算法的框架源码+项目说明.zip用于评估各类时间序列异常检测(Time Series Anomaly Detection) 算法的框架源码+项目说明.zip用于评估各类时间序列异常...
基于transformer的多模态anomaly detection（异常检测）内含数据集和教程.zip
04-12
在当前的项目中，主题聚焦于使用Transformer架构进行多模态异常检测，这是一种结合了视觉、听觉甚至触觉信息的复杂任务。Transformer最初由Vaswani等人在2017年的论文《Attention is All You Need》中提出，主要用于...
异常数据检测 | Python实现ADTK时间序列异常数据检测
算法如诗的博客
05-16 821
异常数据检测 | Python实现ADTK时间序列异常数据检测
Transformer在时间序列异常检测中的应用
AI天才研究院
04-15 673
Transformer在时间序列异常检测中的应用 1. 背景介绍 时间序列数据的异常检测一直是机器学习和数据挖掘领域的一个重要课题。随着近年来深度学习技术的快速发展，基于Transformer模型的时间序列异常检测方法已经成为了研究的热点。Transformer模型凭借其出
Anomaly-Transformer (ICLR 2022 )代码通过CPU复现
weixin_44385635的博客
04-14 776
参考链接：https://blog.csdn.net/ssjdoudou/article/details/103640129。就是在原来.cuda()的地方都改成.to(device)尝试在CPU上复现MSL的结果。原因是没有输入参数，解决可参考。在程序最开始的地方加上。
使用 Temporal Fusion Transformer 进行时间序列预测
deephub
09-18 8474
Temporal Fusion Transformer(TFT)是一个基于注意力的深度神经网络，它优化了性能和可解释性，顶层架构如下图所示。TFT架构的优点如下：能够使用丰富的特征:TFT支持三种不同类型的特征:外生类别/静态变量，也称为时不变特征；具有已知输入到未来的时态数据，仅到目前已知的时态数据；具有未知输入的未来时态数据。区间预测:TFT使用分位数损失函数来产生除实际预测之外的预测区间。异构时间序列:允许训练具有不同分布的多个时间序列。
【时间序列异常检测】Anomaly-Transformer
博观约取，厚积薄发
05-20 6577
时间序列异常点的无监督检测是一个具有挑战性的问题，需要模型推导出一个可区分的判据。以往的方法主要通过学习点表示或成对关联来解决这个问题，但这两种方法都不足以对复杂的动力学进行推理。近年来，Transformers 在点向表示和成对关联的统一建模方面表现出了强大的能力，我们发现每个时间点的 self-attention 权重分布可以体现出与整个序列的丰富关联。我们的重点观察是，由于异常非常罕见，很难建立从异常点到整个序列的有用的关联，因此异常关联主要集中在其相邻时间点上。这种 adjacent-concent
Python 时间序列异常点检测 | tsmoothie 基于数据平滑/拟合的方法 简单却快速有效
叶庭云 成为自己的光
06-29 2294
Python 时间序列异常点检测 | tsmoothie 基于数据平滑/拟合的方法 简单却快速有效
transformer异常检测
07-28
Transformer 异常检测是一种利用 Transformer 模型来进行异常检测的方法。Transformer 是一种强大的序列模型，广泛应用于自然语言处理任务。在异常检测中，Transformer 可以被用于对序列数据进行建模，并学习其正常模式。通过比较输入数据与训练数据的差异，可以判断输入数据是否异常。 具体实现时，可以使用无监督学习的方式来训练 Transformer 模型。首先，使用正常的序列数据作为训练集，训练一个 Transformer 模型。然后，使用这个模型来对新的输入数据进行预测。如果输入数据的预测误差大于某个阈值，就可以判断这个数据为异常。 另一种方法是使用生成模型，如变分自编码器 (Variational Autoencoder, VAE) 结合 Transformer。VAE 可以学习输入数据的概率分布，并生成与输入数据相似的样本。当输入数据无法被模型生成时，可以认为这个数据是异常的。 总的来说，Transformer 异常检测是一种利用 Transformer 模型对序列数据进行建模，并根据预测误差或生成能力判断输入数据是否异常的方法。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

算法如诗

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值