![](https://img-blog.csdnimg.cn/20201014180756928.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
图神经网络
文章平均质量分 93
图机器学习和图神经网络笔记
泊柴
这个作者很懒,什么都没留下…
展开
-
图神经网络中的注意力机制
图神经网络中的注意力机制本文讨论了 GNN 中常用的注意力机制,相关论文有:Graph Attention NetworksHow Attentive are Graph Attention NetworksMasked Label Prediction: Unified Message Passing Model for Semi-Supervised ClassificationGraph Attention Networks (GAT)GAT 的基本原理GAT 是 GNN 中的经典模原创 2021-12-15 20:21:54 · 8619 阅读 · 4 评论 -
Pytorch-Geometric 中的 Message Passing 解析
Pytorch-Geometric 中的 MessagePassing图中的卷积计算通常被称为邻域聚合或者消息传递 (neighborhood aggregation or message passing). 定义 xi(k−1)∈RF\mathbf x^{(k-1)}_i \in R^{F}xi(k−1)∈RF 为节点 iii 在第 (k−1)(k-1)(k−1) 层的特征, ej,i\mathbf e_{j,i}ej,i 表示节点 jjj 到 节点 iii 的边特征,在 GNN 中消息传递可以原创 2021-11-06 18:43:50 · 5395 阅读 · 0 评论 -
Deeper GNN:更深的图神经网络
Deeper GNN:更深的图神经网络论文链接:DeeperGCN: All You Need to Train Deeper GCNs (arxiv.org)DeepGCNs: Can GCNs Go as Deep as CNNs? (arxiv.org)引言图机器学习中常见的任务由节点分类、连接预测和图分类。图卷积网络 (GCN) 是最近比较流行的一种方法。GCN 的核心概念是建立消息传递的基础上的,所谓消息传递就是根据邻域节点的特征计算相邻节点之间的消息,并将之用于更新中心节点的特征。原创 2021-11-06 18:41:18 · 1615 阅读 · 0 评论 -
Graph U-Nets 笔记
Graph U-Nets 笔记1. 引言论文主要内容是提出了用于图神经网络的 U-Net 结构。论文的出发点很简单,鉴于 UNet 的 encoder-decoder 结构在图像领域取得的成功,我们能不能在 GNN 中也模仿 U-Net 设计一种 Graph U-Net 结构呢?因为 U-Net 是先做降采样(Encoder)得到从低层次到高层次的图像特征,然后再做上采样 (Decoder)将 Encoder 计算的特征融合起来得到新的特征,所以如果要在 GNN 中构造 UNet 结构,就需要解决如何进原创 2021-11-06 18:35:43 · 2714 阅读 · 0 评论 -
CS224W-07:图神经网络二
图神经网络二第六节主要是对图神经网络做了一个整体上的介绍,本节介绍几种经典的GNN 和设计GNN的基本思路。具体内容为单层 GNN单层 GNN 的一般形式经典的 GNN 网络:GCN, GraphSAGE, GAT多层 GNN 设计如何确定 GNN 网络的层数过平滑 (Over smoothing) 问题跳跃连接 (Skip connections)实际训练中图的操作特征增广 (Feature augmentation)结构变换 (Structure manipulat原创 2021-06-07 22:44:31 · 241 阅读 · 0 评论 -
CS224W-06:图神经网络一
图神经网络一图机器学习需要解决的任务有:节点分类 (Node classification) :预测每个节点的类型链接预测 (Link prediction):预测两个节点是否相连社区检测 (Community detection):检测密集连接的节点聚类网络相似性检测 (Network similarity):计算两个网络的相似程度前面章节介绍的是解决这些问题的传统机器学习方法,本节主要介绍图神经网络 (GNN) 的基本思路和训练基本流程。基本方法:消息传递和聚合图给我们的信息有:原创 2021-06-05 21:05:55 · 189 阅读 · 0 评论 -
CS224W-04: PageRank
CS224W-04: PageRankPageRank 最初作为互联网网页重要度的计算方法,由 Page 和 Brin 提出,并用于谷歌搜索引擎的网页排序。事实上,PageRank 可以定义在任意有向图中,所以也广泛用于社会影响力分析等其他领域。本节的内容包括:PageRank 算法个性化 PageRank 算法 (Personalized PageRank)重启随机游走算法 (Random Walk with Restarts)PageRankPageRank 的定义从直觉出发,要衡原创 2021-05-29 21:04:19 · 250 阅读 · 0 评论 -
CS224W-05: 消息传递和节点分类
消息传递和节点分类本节需要解决的问题是:假如一个图中某些节点的标签已经知道,如何根据节点的邻接关系和节点特征来确定其他节点的标签。在第三讲中,我们已经介绍了利用节点嵌入和传统机器学习方法给节点分类,本节讲介绍如何利用消息 (message passing) 来预测节点分类。本节内容包括:网络中节点的同质性 (Homophily) 和影响性 (Influence)节点集体分类 (Collective classification) 的方法关联分类 (Relational classificatio原创 2021-05-30 16:54:31 · 587 阅读 · 0 评论 -
CS224W-03:节点嵌入
CS224W-03:节点嵌入节点嵌入(Node embedding)的目的是为了将图中每一个节点映射到一个低维的向量表示,在嵌入空间最好能够满足下面的性质:如果两个节点在图中具有很高的相似性,那么二则的嵌入也应该具有相应的相似性嵌入应该能够提取图的信息嵌入向量可以用于下游学习和预测任务本节内容包括:提取器和重构器框架 (Encoder-decoder framework)提取器:浅层次的嵌入查找表重构器:基于嵌入向量预测节点相似性节点相似性的度量方法:无偏和有偏的随机游走 (D原创 2021-05-27 21:12:55 · 1291 阅读 · 0 评论 -
CS224W-02:图的传统机器学习方法
CS224W 笔记02:图的传统机器学习方法文章目录CS224W 笔记02:图的传统机器学习方法设计机器学习方法的流程节点级别特征 (node-level)节点的度节点中心性Eigenvector centralityBetweenness centralityCloseness centralityClustering centralityGraphlet连接级别的特征 (Link-level)基于距离的特征 (Distance-based features)局部邻域重叠度 (Local neighbo原创 2021-05-16 20:54:53 · 262 阅读 · 0 评论