【图异常检测论文解读】Subtractive Aggregation for Attributed Network Anomaly Detection

Guapifang

已于 2022-02-24 09:46:07 修改

阅读量1.9k

点赞数 2

分类专栏：深度学习图神经网络论文解读文章标签：神经网络深度学习图神经网络图异常检测

于 2022-02-23 21:21:25 首次发布

本文链接：https://blog.csdn.net/weixin_43918046/article/details/123096870

版权

深度学习同时被 3 个专栏收录

41 篇文章 5 订阅

订阅专栏

图神经网络

9 篇文章 5 订阅

订阅专栏

论文解读

3 篇文章 0 订阅

订阅专栏

本文介绍了AAGNN，一种新颖的图异常检测算法，通过减法聚合来表征节点异常。模型利用相邻节点作为背景，学习超球面作为异常标准。训练目标鼓励正常节点表示聚集，异常节点保持在外。实验显示AAGNN在多个数据集上超越现有方法。此外，论文提出了一种无监督的节点标签生成策略，降低了实际应用的成本。

摘要由CSDN通过智能技术生成

图神经网络火起来后，图异常检测算法也大火，得到了很多算法学者的研究，今天看到了一篇结构比较简单的图异常检测算法的论文《Subtractive Aggregation for Attributed Network Anomaly Detection》，内容比较短，但是挺有意思的，特此分享一下，如果我的理解描述有误，也希望各位指正。
论文链接：Subtractive Aggregation for Attributed Network Anomaly Detection。

一、前言

1.1 传统模型的问题

图异常检测算法目标是在图结构中，去检测显着偏离其相应背景的节点。在传统的异常检测中，其相应背景被定义为绝大多数的数据信息，但在网络中，异常可能是局部的，与大多数情况相比看起来很正常难以被察觉，尽管已经进行了一些尝试以将社区（图结构中的局部子图）视为背景，但学习合适的社区以进行有效的异常检测仍然具有挑战性，此外，异常的模式是未知的，定义异常的标准是很难确定的。

1.2 AAGNN模型的意义和贡献

为了弥合差距，在该论文中，作者认为，通过使用适当的模型，只需将相邻节点视为检测异常的背景就足够了。相应地，作者提出了一种新的异常感知图神经网络（AAGNN）。它利用减法聚合将每个节点表示为与其邻居（背景）的偏差。具有高置信度的正常节点被用作标签来学习定制的超球面作为异常标准。实验表明，AAGNN 显着超越了最先进的方法。

这篇论文做出的贡献如下：

提出了一种新的图神经网络（AAGNN），通过测量其与相应邻域的模式偏差来有效地表征节点异常。
设计了一个有效的超球面学习目标来优化提出的 AAGNN 模型。
三个真实世界数据集的实证结果证明了 AAGNN 在检测网络异常节点方面优于最先进的方法

二、AAGNN模型

2.1 模型结构

在这里插入图片描述
AAGNN 由一个为 ANAD（Attributed network anomaly detection图异常检测）量身定制的异常感知图神经层组成，它利用减法聚合来测量节点与邻域节点的模式偏差。如果一个节点拥有稀有模式或表现出奇怪的行为，则其与邻域的模式偏差是显着的；而正常节点通常与其邻域呈现相似的模式，因此具有微不足道的异常。

模型的输入是一个节点带权（或带有特征信息向量）的图，模型的输出是每个节点都有的一个异常信息感知向量。

2.2 模型的数学公式

下述是初始的比较简单的AAGNN模型的数学公式。
在这里插入图片描述
xi表示节点的特征向量，W是模型的神经网络权重，N(k,i)表示节点i的k-top节点(k跳节点)，hi表示最终的异常信息感知向量。Aggregate(zj)表示对节点i的k-top节点取平均。

这个公式很好理解的，但是为了训练的效果更好，上述直接取平均的结果是AAGNN的一种变体，即AAGNN-M。因为这几年注意力机制比较火热，同时为了探究注意力机制给AAGNN模型带来的影响，作者又引入了注意力机制，因而该模型的另外一种变体的公式为，该变体叫AAGNN-A。
在这里插入图片描述

公式非常好理解。

2.3 模型的训练（论文亮点）

我觉得AAGNN模型的训练方式才是最具亮点的地方，因为前面模型的结构概念其实都比较简单，好理解，但是训练的损失函数就非常具有亮点了。

AAGNN模型的训练目标如下。

在这里插入图片描述
其中hi是模型输出的每个节点的异常信息感知向量（上面已经说过），c是所有正常样本的向量均值，另外几个符号不太好打出来，截图原论文如下。

最终每个节点的异常分数计算如下。
在这里插入图片描述

2.4 节点的标签问题和模型的评估（论文亮点）

该模型需要有标签的正常节点和异常节点数据，因为训练目标的公式中c需要正常的节点特征信息向量计算，但现实生活中去标注节点是否异常成本是很高的，为了解决这个问题，该论文提出了一种方法，我也觉得是该论文除了训练的损失函数外的另外一大亮点。

该方法具体为：

step1：简单地对所有节点的表示进行平均，并将平均结果作为c。
step2：计算所有节点到中心点的欧几里得距离，然后将𝑝%的距离最小的节点作为伪标记的正常实例进行训练，同时使用剩余的节点进行测试。（也即是认为前p%距离最近的节点为正常节点，剩下的为异常节点。）

2.5 实验结果和模型的相关问题

2.5.1 与最先进的异常检测模型相比，AAGNN 能否取得更好的性能？

在这里插入图片描述

2.5.2 超参数对 AAGNN 有什么影响？

在这里插入图片描述

2.5.3 AAGNN 的每个组件贡献了多少？

核心组件就是中间的减法聚合层，在模型的结构公式部分说了AAGNN作者提出了两种变体，AAGNN-M和AAGNN-A，也即是直接取邻居节点的向量平均还是添加注意力机制进行计算，得到的实验效果如下图所示。
在这里插入图片描述

三、结论

在本文中，作者提出了一种新的模型，称为异常感知图神经网络 (AAGNN)，用于属性网络异常检测。 AAGNN 用减法聚合来表征节点异常，以将每个节点表示为与其邻域的模式偏差。学习到的节点表示是异常可区分的。作者进一步为 AAGNN 配备了超球面学习目标，以实现无监督异常检测。训练后，鼓励正常节点表示聚集在超球体中心周围，而异常表示保持在超球体之外。通过实证评估，作者证明 AAGNN 显着优于最先进的方法。