【基础】GCN

Citroooon

已于 2023-01-08 20:33:34 修改

阅读量114

点赞数 1

文章标签：人工智能

于 2022-12-25 21:36:50 首次发布

本文链接：https://blog.csdn.net/Citroooon/article/details/128437911

版权

图卷积网络基础知识

论文：SEMI-SUPERVISED CLASSIFICATION WITH
GRAPH CONVOLUTIONAL NETWORKS
论文地址：https://arxiv.org/pdf/1609.02907.pdf
Reference: https://zhuanlan.zhihu.com/p/107162772

GCN的网络结构

Schematic depiction of multi-layer Graph Convolutional Network (GCN) for semi-supervised learning with C input channels and F feature maps in the output layer. The graph structure (edges shown as black lines) is shared over layers, labels are denoted by Y
一个 $N$ $D$ 的矩阵 $X$ 作为输入，其中 $N$ 表示nodes的个数， $D$ 是输入特征的维度；输出 $Z$ 是一个 $N$ $F$ 的矩阵， $F$ 是输出特征的维度。

层级传导

定义简单的f函数，作为基础的网络层
在这里插入图片描述
表示将图的邻接矩阵与隐藏层相乘，经过 $W$ 的线性变换，再经过 $\sigma$ 的激活函数。
而 $A H$ 代表什么含义？

假设输入层 $x_i=[i,i,i,i]$ , 我们不难得出， $x'_1 = x_2+x_5$ , 因为node1和node2与node5相连。其他的以此类推（见下图）
在这里插入图片描述
这样的问题是， $A H$ 会丢失原本这个node的信息, 只保留与之相邻的node信息，解决方案是，对每个节点手动增加一条self-loop 到每一个节点，用 $\hat{A} = A + I$ 来代替 $A$ .

其次，为了避免每层越乘越大的问题，取归一化的 $A$ ,即让每一行的和为1， $A' = D^{-1}A$ , $D$ 是度矩阵（degree matrix），实际运用中我们采用的是对称的normalization $A' = D^{-1/2}AD^{-1/2}$ . 最终得到：
在这里插入图片描述
其中 $\hat{A} = A + I$ , $\hat{D}$ 是 $\hat{A}$ 的度矩阵。