【图专题】三篇图神经网络中的图核函数：主要学习图的拓扑结构从而解决图分类问题...

最新推荐文章于 2023-05-24 22:21:21 发布
最新推荐文章于 2023-05-24 22:21:21 发布
阅读量7.3k 收藏 29
点赞数 4

导读：Graph kernel可以直观地理解为测量图相似度的函数。它们允许如支持向量机之类的内核化学习算法直接在图上工作，而不需要进行特征提取即可将其转换为固定长度的实值特征向量。一个简单的例子是随机游动核，它在概念上同时对两个图执行随机游动，然后计算两次游动产生的路径数。这等效于在这对图的直接积上进行随机游走，并由此得出可以有效计算的核。

Graph kennel 是一种kernel method， kernel method 在图结构中的研究主要有两类：一是Graph embedding 算法，将图(Graph)结构嵌入到向量空间；另一类就是Graph kernel算法。第一类得到图结构的向量化表示，然后直接应用基于向量的核函数(RBF kernel, Sigmoid kernel, etc.) 处理，但是这类方法将结构化数据降维到向量空间损失了大量结构化信息。而Graph kernel 直接面向图结构数据，既保留了核函数计算高效的优点，又包含了图数据在希尔伯特高维空间的结构化信息。

1. Learning Metrics for Persistence-Based Summaries and Applications for Graph Classification (NIPS 2019)

    • Qi Zhao, Yusu Wang

    • Paper: https://arxiv.org/abs/1904.12189

    • Code: https://github.com/topology474/WKPI

本文关注图中的persistent homology (and its corresponding persistence diagram summary)。目前已经有一系列方法来将persistence diagram映射到矢量表示，以便于机器学习下游使用。在这些方法中，经常预设不同持久性特征的重要性（权重）。但是，在实践中，权重函数的选择通常应取决于人们考虑的特定数据类型的性质，因此，非常有必要从标记的数据中自动学习最佳权重函数（并由此得出持久性图的度量）。本文作者研究了这个问题，并为persistence summaries提出了一个新的加权内核，称为WKPI，以及一个优化框架，以学习persistence summaries的良好度量。本文的内核和优化问题都具有很好的属性。学习到的内核应用于图分类的任务中，并表明基于WKPI的分类框架比一系列基准图数据集上的一系列先前图分类框架的最佳结果获得的相似或更好的结果（有时明显） 。

2. A Persistent Weisfeiler–Lehman Procedure for Graph Classification (ICML 2019)

    • Sebastian Rieck, Christian Bock, and Karsten Borgwardt

    • Paper: http://proceedings.mlr.press/v97/rieck19a/rieck19a.pdf

    • Python Reference: https://github.com/BorgwardtLab/P-WL

Weisfeiler-Lehman图内核在许多图分类任务中表现出竞争优势。但是，其子树特征无法捕获连接的成分和环，但是这些是用于表征graph-level拓扑非常重要的特征。为了提取此类特征，本文利用节点标签信息并将未加权的图转换为度量图。这能够利用持久性同源性（拓扑数据分析的概念）获得的拓扑信息来扩充子树特征。本文的方法可以看做是Weisfeiler-Lehman的泛化，具有良好的分类精度，其中的涨点主要在于循环信息的利用（cycle information）

  • 最后的3PH就是提到的persistent homology (PH) features

    3. Message Passing Graph Kernels (2018)

    • Giannis Nikolentzos, Michalis Vazirgiannis

    • Paper: https://arxiv.org/pdf/1808.02510.pdf

    • Python Reference: https://github.com/giannisnik/message_passing_graph_kernels

图内核可以用于解决图相似性和以及图学习的任务。在本文中，作者提出了一个用于设计图内核的通用框架。所提出的框架利用了图上众所周知的消息传递方案。 该框架的内核包含两个组件。第一个分量是顶点之间的核，而第二个分量是图之间的核。 本文提出的框架背后的主要思想是使用迭代隐式地更新顶点的表示。然后，这些表示用作比较图对的内核的构建块。 作者推导了所提出框架的四个实例，并通过广泛的实验表明，这些实例在各种任务中与最新方法具有竞争力。

往期精彩回顾




适合初学者入门人工智能的路线及资料下载机器学习及深度学习笔记等资料打印机器学习在线手册深度学习笔记专辑AI基础下载（pdf更新到25集）机器学习的数学基础专辑获取一折本站知识星球优惠券，复制链接直接打开：https://t.zsxq.com/yFQV7am本站qq群1003271085，加入微信群请扫码喜欢文章，点个在看
风度78
关注
  • 4
    点赞
  • 踩
  • 29
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
机器学习Sklearn——核函数、核函数在不同数据集上的表现、核函数的优势和缺点
qq_47250064的博客
08-29 4070
介绍核函数的不同类型、核函数在不同数据集上的表现，在rbf上表现最好。以及核函数的缺点，提醒我们需要将数据进行统一量纲处理。
读《用于图学习的主干图核方法》
weixin_40459958的博客
07-30 433
摘要
图机器学习——1.3 传统方法：基于图
Kanny
11-07 1483
基于图 我们的目的是将整张图量化为一个特征，这里传统的做法是利用 Graph Kernel 来衡量两个图的相似度。 图中的Kernel我们进行如下的定义： Kernel K(G,G′)∈RK\left(G, G^{\prime}\right) \in \mathbb{R}K(G,G′)∈R 衡量数据之间的相似性。存在一个特征表示 ϕ(⋅)\phi(\cdot)ϕ(⋅) such ，使得 K(G,G′)=ϕ(G)Tϕ(G′)K\left(G, G^{\prime}\right)=\phi(G)^{\mathr
深入浅出核函数
小白学视觉
07-25 356
点击上方“小白学视觉”，选择加"星标"或“置顶”重磅干货，第一时间送达 前言支持向量机是最重要的机器学习算法之一，支持向量机的一个重要特点是通过核函数进行非线性分类。本文...
论文阅读 (四)：Multi-Instance Learning by Treating Instances As Non-I.I.D. Samples (MIGraph & miGraph2009)
因吉的博客
05-21 2014
文章目录引入 引入   论文地址：https://cs.nju.edu.cn/zhouzh/zhouzh.files/publication/icml09miGraph.pdf   论文出发点：包中的实例非独立同分布 (non-I.I.D.)   设计的两种方法：   1）MIGraph：明确将每个包映射为无向图 (undirected graph)，并设计一种graph kernel来区分正包和负包；   2）miGraph：通过affinity matrix来隐式地构建图，并设计一种相应的graph k
吴恩达机器学习（二十四）核函数
weixin_43889476的博客
07-25 793
  我们将改造支持向量机算法，来构造比较复杂的非线性分类器，主要的技巧是称之为核(kernel)的东西，接下来我们看看核函数是什么以及如何使用它。   1.如果有一个这样的训练集，然后希望拟合一个非线性判别边界来区分正负样本示例，可能是下面这样的一个边界：一种方法是构造一个复杂多项式特征的集合，也就是像这样一个特征变量的集合，于是就得到一个假设x，得到下右边面式子. 　　 　　   为了说明一种写法，先引入一种会用到的新符号，我们可以把假设函数看成是用下式计算的决策边界，θ0 + θ1f1 + θ2f2 +
图核graph kernel方法Python工具包graphkernels的安装和使用
u011452172的博客
11-21 9857
图核graph kernel是一种有效的图结构相似度的近似度量方式，针对不同的图结构(labeled graphs, weighted graphs, directed graphs, etc.) 有不同的Graph kernel。 这里，我们不介绍graph kernel的算法理论，只是简单介绍下其Python工具包graphkernels的安装和使用。 graphkerne
实验一：绘制实验室机房拓扑结构网络图.doc
03-26
绘制实验室机房拓扑结构网络图
各种网络监控拓扑图.doc
06-21
1. 可视化网络架构：网络监控拓扑图可以清晰地显示网络架构，帮助管理员更好地理解网络结构。 2. 实时监控：网络监控拓扑图可以实时监控网络设备和连接关系的状态。 3. 故障排除：网络监控拓扑图可以快速定位和...
网络架构等保2.0 拓扑图案例.pptx
最新发布
04-27
网络架构等保2.0 拓扑图案例.pptx
快速的基于深度的子图内核，用于未归因的图
03-19
在本文中，我们基于基于深度的图结构表示，研究了两个快速子图内核。两种方法都是通过以顶点为根的一系列K层展开子图来衡量深度信息的[1]。第一种方法开始于为每个图计算基于质心的复杂性轨迹，方法是使用以质心顶点为根的基于深度的表示形式，该表示形式对其余顶点的最小最短路径长度方差[2]。此子图内核是通过测量基于质心的复杂性熵迹线之间的Jensen-Shannon散度来计算的。另一方面，第二种方法依次计算每个顶点周围基于深度的表示。使用同构测试计算相应的子图内核，以依次比较植根于每个顶点的基于深度的表示。对于具有n个顶点的图，两个新内核的时间复杂度分别为Oðn2Þ和Oðn3Þ，而经典Gärtner图内核的时间复杂度为Oðn6Þ[3]。达到这一效率的关键是我们使用Oðn2Þ运算来计算内核随机游动所需的Shannon熵。这种计算策略使我们的子图内核可以轻松地按比例放大到较大尺寸的图，从而克服了最新的图内核中出现的尺寸限制。在标准生物信息学和计算机视觉图数据集上进行的实验证明了我们新的子图内核的有效性和效率。
GraphKernel:用于评估networkX图中节点之间基于网络传播的相似性度量的软件包
04-27
GraphKernel Python程序包可评估networkX图形中节点之间的几种相似性度量，并根据与源节点子集的相似性对网络节点进行排名。 该软件包经过优化，可利用矢量化的numpy和scipy表达式以获得近乎原生的性能。 它可用于在网络科学问题中快速比较不同的基于网络传播的相似性度量，例如基因优先级和疾病模块检测。 该软件包中的方法受到网络传播框架的启发，该框架在精彩的论文“网络传播：遗传关联的通用放大器”中解释过，Cowen等人。 （2017），Nat Rev遗传学。 注意：术语“内核”在这里非常宽松地用于表示节点之间的相似性/投影矩阵，即使它不遵守基本内核属性（对称性/正定性）时也是如此。 同样，命名图内核不指图之间的相似性内核，而仅指节点之间的相似性内核。 对于评论，问题和错误报告： 请参阅Jupiter笔记本GraphKernel_tutorial.ipynb中的
局域网设计方案网络拓扑结构图设计思路拓扑结构.ppt
02-21
局域网设计方案网络拓扑结构图设计思路拓扑结构
d3.js实现简单的网络拓扑图实例代码
10-21
最近一直在学习d3.js，大家都知道d3.js是一个非常不错的数据可视化库，我们可以用它来做一些比较酷的东西，比如可以来显示一些简单的网络拓扑图，这篇文中就通过实例代码给大家介绍了如何利用d3.js实现简单的网络...
【复杂网络建模】——通过图神经网络来建模分析复杂网络
lingxw的博客
05-18 7466
复杂网络是指由大量节点和连接组成的网络结构，它在许多领域中都有应用，包括社交网络、生物网络、信息网络等。复杂网络的研究主要关注网络的拓扑结构、动力学行为和功能特性。复杂网络的拓扑结构通常呈现出非常复杂的特征，例如小世界效应和无标度性。小世界效应指的是网络中的节点之间具有较短的平均路径长度，使得节点之间的距离变得更短。无标度性表示网络的度分布呈幂律分布，即只有少数节点具有非常高的连接度，而大部分节点的连接度较低。这些特性使得复杂网络在信息传播、灾难传播、社交影响等方面表现出独特的性质。
Graph kernel Network 代码理解
夜晓岚的博客
06-19 1154
# in_width 是最初的维度，如论文中的d=6 # width 是变换后的维度，如变换后的64 class KernelNN(torch.nn.Module): def __init__(self, width, ker_width, depth, ker_in, in_width=1, out_width=1): super(KernelNN, self).__init__() self.depth = depth self.fc1 = to
图神经网络（Graph Neural Networks）简单介绍
热门推荐
百年孤独百年的博客
05-24 1万+
图神经网络（Graph Neural Networks, GNN）是一类用于处理图结构数据的神经网络模型，与传统的神经网络（例如卷积神经网络、循环神经网络等）处理规则数据结构（如图像、时间序列）不同，图神经网络专门处理不规则的图结构数据，如社交网络、知识图谱等。图结构数据是一种由节点和边组成的复杂关系网络，其中节点代表实体，边代表实体之间的关系。与传统的神经网络不同，图神经网络需要考虑节点之间的关系，因此需要一种新的方式来表示节点和边。
图核实现
CaptureItTechnology的博客
11-17 922
实现图核程序的软件包，先读懂论文的原理，再运行GIT上面提供的代码。 https://github.com/tiankonghenlan20113046/graph-kernels
笔记《Graph Neural Tangent Kernel: Fusing Graph Neural Networks with Graph Kernels》-NeurIPS 2019
yyy的技术日常
06-26 1万+
1 读《Graph Neural Tangent Kernel: Fusing Graph Neural Networks with Graph Kernels》-NeurIPS 2019 GNN的优势：1. 图神经网络使用多层结构和非线性激活函数来提取图的高阶信息作为特征。 GNN的缺点：1.训练过程中存在大量的超参数，且训练过程具有非凸性，使得 GNN 的训练更加困难。2.GNN 的表达能力随参数的数量而变化，在计算资源有限的情况下，很难充分利用 GNN 的表达能力。 GKs的优势：1. GKs继承了内
1.给出一个简单的网络路由拓扑结构，编程实现基于此拓扑图的链路状态动态路由算法
05-26
一个简单的网络路由拓扑结构可以是一个由若干个路由器和连接它们的链路组成的图，每个路由器可以通过链路获取到其他路由器的信息，从而构建出整个网络的拓扑结构。 基于此拓扑图的链路状态动态路由算法可以采用Dijkstra算法来实现。具体步骤如下： 1. 初始化路由表，将自己与邻居节点之间的距离放入路由表中，并将其他节点到自己的距离设置为无穷大。 2. 选择距离最小的节点作为当前处理节点，并标记已处理。 3. 遍历当前节点的所有邻居节点，计算从当前节点到它们的距离，并更新路由表中的信息。 4. 重复步骤2和步骤3，直到所有节点都被处理过。 5. 经过上述处理，每个节点都会有一张完整的路由表，其中记录了到达所有其他节点的最短路径和距离。 下面是一个简单的 Python 实现： ```python import sys class Router: def __init__(self, name, neighbors): self.name = name self.neighbors = neighbors self.distance = {name: 0} for neighbor, dist in neighbors.items(): self.distance[neighbor] = dist self.visited = False def get_next_hop(self, dest): next_hop = None min_dist = sys.maxsize for neighbor, dist in self.neighbors.items(): if neighbor == dest: return neighbor if neighbor not in self.distance: self.distance[neighbor] = sys.maxsize total_dist = self.distance[neighbor] + dist if total_dist < min_dist: min_dist = total_dist next_hop = neighbor return next_hop def get_shortest_path(self, dest): path = [] next_hop = self.get_next_hop(dest) while next_hop != dest: path.append(next_hop) next_router = routers[next_hop] next_hop = next_router.get_next_hop(dest) path.append(dest) return path def update_distances(self): for neighbor, dist in self.neighbors.items(): if neighbor not in self.distance: self.distance[neighbor] = sys.maxsize total_dist = self.distance[self.name] + dist if total_dist < self.distance[neighbor]: self.distance[neighbor] = total_dist def dijkstra(): unvisited_routers = set(routers.values()) while unvisited_routers: curr_router = min(unvisited_routers, key=lambda x: x.distance[x.name]) curr_router.visited = True unvisited_routers.remove(curr_router) curr_router.update_distances() # 创建路由器和拓扑结构 routers = { 'A': Router('A', {'B': 1, 'C': 3}), 'B': Router('B', {'A': 1, 'C': 1, 'D': 4}), 'C': Router('C', {'A': 3, 'B': 1, 'D': 1}), 'D': Router('D', {'B': 4, 'C': 1}) } # 运行 Dijkstra 算法 dijkstra() # 输出每个路由器的路由表和最短路径 for router_name in routers: router = routers[router_name] print('Router {}:'.format(router_name)) for dest_name in routers: if dest_name == router_name: continue path = router.get_shortest_path(dest_name) path_str = ' -> '.join(path) print(' Shortest path to {}: {} (distance {})'.format(dest_name, path_str, router.distance[dest_name])) ``` 该代码会输出每个路由器的路由表和最短路径，如下所示： ``` Router A: Shortest path to B: A -> B (distance 1) Shortest path to C: A -> C (distance 2) Shortest path to D: A -> C -> D (distance 3) Router B: Shortest path to A: B -> A (distance 1) Shortest path to C: B -> C (distance 1) Shortest path to D: B -> D (distance 4) Router C: Shortest path to A: C -> A (distance 3) Shortest path to B: C -> B (distance 1) Shortest path to D: C -> D (distance 1) Router D: Shortest path to A: D -> C -> A (distance 4) Shortest path to B: D -> B (distance 4) Shortest path to C: D -> C (distance 1) ```

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值