【斯坦福CS224W图机器学习】08 图嵌入

最新推荐文章于 2023-01-17 12:44:48 发布
最新推荐文章于 2023-01-17 12:44:48 发布
阅读量637 收藏
点赞数
分类专栏： 图数据挖掘&图机器学习&图嵌入 文章标签： 机器学习 图嵌入
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42447107/article/details/118889559
版权
本文介绍了三种图嵌入方法：1）节点嵌入求和/平均；2）虚拟节点表示子图嵌入；3）匿名随机游走嵌入。匿名随机游走方法通过忽略节点身份生成指数级数量的游走序列，并用其概率分布表示图。进一步提出了学习行走嵌入的思想，不仅记录行走次数，还学习每个行走的嵌入。这些方法在图分类、异常检测等任务中有应用。
摘要由CSDN通过智能技术生成

08 图嵌入

文章目录

图嵌入

目标：想要嵌入一个子图或整个图，图形嵌入： Z G Z_G ZG​

在这里插入图片描述

任务：

分类有毒分子和无毒分子，

识别异常图等

-方法1

简单的想法1：

在（子）图上运行标准的图形嵌入技术，然后只计算（子）图中的节点嵌入的总和（或平均值）。

在这里插入图片描述

2016年，杜维诺等人根据分子的图结构对分子进行分类。

-方法2

想法2：引入“虚拟节点”来表示（子）图，并运行标准图嵌入技术

在这里插入图片描述

由Li等人，2016年提出，作为子图嵌入的一般技术.

-方法3 Anonymous Walks Embedding

States in anonymous walks correspond to the index of the first time we visited the node in a random walk

在这里插入图片描述

Anonymous Walk Embeddings, ICML 2018 https://arxiv.org/pdf/1805.11921.pdf

忽略所访问节点的身份（因此是匿名）

在这里插入图片描述

匿名随机随机游走的序列数量

匿名随机游走的数量呈指数级增长：

There are 5 anon. walks w i w_i wi​ of length 3:

w 1 w_1 w1​=111, w 2 w_2 w2​=112, w 3 w_3 w3​= 121, w 4 w_4 w4​= 122, w 5 w_5 w5​= 123

在这里插入图片描述

使用Anonymous Walks 嵌入图形

-Simulate anonymous walks w i w_i wi​ of l l l steps and record their counts

-Represent the graph as a probability distribution over these walks

在这里插入图片描述

在这里插入图片描述

我们可以进一步增强这个想法

New Idea： Learn Walk Embeddings

我们不是简单地表示每次行走的次数，而是学习嵌入

在这里插入图片描述

如何嵌入呢？（s.t.：使得，满足于）

在这里插入图片描述

Learn Walk Embeddings

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

总结

We discussed 3 ideas to graph embeddings

Approach 1: Embed nodes and sum/avg them

Approach 2: Create super-node that spans the (sub) graph and then embed that node

Approach 3: Anonymous Walk Embeddings

Idea 1: Sample the anon. walks and represent the graph as fraction of times each anon walk occurs

Idea 2: Embed anonymous walks, concatenate their embeddings to get a graph embedding

节点嵌入的应用

在这里插入图片描述

如是我闻__一时__
关注
专栏目录
斯坦福大学CS224W图机器学习笔记
太阳当空照，花儿对我笑，微风轻轻拂，心情无限好。
12-27 1053
本次任务主要学习了什么是图机器学习，图机器学习和传统的机器学习任务有哪些不同的地方，图学习的一些难点以及工具，还介绍了在各个不同层面上的具体例子（节点层面、连接层面、全图层面），最后介绍了近年来的一些革命性进展。
Graph and Machine Learning(图和机器学习)
ygp12345的博客
10-20 674
文章目录Introduction回顾其他的神经网络初识图神经网络为什么要使用图神经网络怎样实现GNNGNN的学习路线图Tasks, Dataset, and BenchmarkSpatial-based GNNNN4GDCNNDGCMoNETGraphSAGEGATGINGraph Signal Processing and Spectral-based GNN Introduction 回顾其他的神经网络 我们先看看下面几个之前研究过的network。 初识图神经网络 图神经网络最重要的就是这个图
图表示学习Graph Embedding综述
abcdefg90876的博客
04-17 2298
最近在学习Embedding相关的知识的时候看到了一篇关于图嵌入的综述，觉得写的不错便把文章中的一部分翻译了出来。因自身水平有限，文中难免存在一些纰漏，欢迎发现的知友在评论区中指正。目录...
图机器学习——2.3 整图嵌入
Kanny
11-22 2087
整图嵌入 整图嵌入的想法是将一个完整的图结构嵌入为一个向量。通常有如下三种做法： 1）节点嵌入求和 一种非常简洁且有效的图嵌入方式是将图所有节点的嵌入结果进行求和或平均（Duvenaud et al., 2016）： zG=∑v∈Gzv \boldsymbol{z}_{\boldsymbol{G}}=\sum_{v \in G} \boldsymbol{z}_{v} zG​=v∈G∑​zv​ 2）虚拟节点 另一种比较简单的想法是将一个子图结构作为一个虚拟节点，而后运行前文叙述的标准节点嵌入算法（Propos
匿名游走 Anonymous Walk
qq_42530436的博客
05-12 1055
论文地址：[http://proceedings.mlr.press/v80/ivanov18a/ivanov18a.pdf](http://proceedings.mlr.press/v80/ivanov18a/ivanov18a.pdf) 从节点u开始匿名游走以建立与u在给定距离内的所有节点构成的子图，这种分布唯一地决定了u中的马尔科夫过程，所以不存在两个不同的子图具有相同的匿名游走分布。这意味着两个匿名游走分布相似的图应该在拓扑结构上相似。因此定义了基于特征的网络嵌入在匿名行走的分布，并展示了一种有
Machine Learning with Graphs 之 Anonymous Walk Embeddings
pku_langzi的博客
12-08 972
Machine Learning with Graphs 之 Node Embeddings
上传学习CS224W图机器学习课程的笔记以及代码.zip
最新发布
04-23
CS224W是斯坦福大学开设的一门高级课程，专注于图机器学习（Graph Machine Learning）。这门课程深入探讨了如何在复杂数据结构上应用机器学习算法，特别是那些以网络形式存在的数据，如社交网络、生物网络和知识图谱...
入门GNN 必学 斯坦福CS224W《图机器学习》又开课了 Jure主讲
yyaannnnnnnn的博客
01-17 159
在分析、处理大规模图数据的过程中，往往在计算、算法和建模等方面充斥着挑战。而本课程，就是针对上述的种种问题而设计，适合初学者入门，也能让有一定编码能力和数学基础的同学进行一次梳理。主讲人为斯坦福计算机学院副教授Jure Leskovec，图表示学习方法 node2vec 和 GraphSAGE 的作者之一，GNN里一半的前沿研究和新应用都绕不开这位大佬。
斯坦福CS224n_自然语言处理与深度学习 笔记
09-28
《斯坦福CS224n：自然语言处理与深度学习》是斯坦福大学开设的一门高级计算机科学课程，专注于自然语言处理（NLP）领域的深度学习技术。这门课程涵盖了广泛的NLP主题，从基础的文本预处理到复杂的深度学习模型，如...
斯坦福CS224n_自然语言处理与深度学习_笔记
07-15
《斯坦福CS224n：自然语言处理与深度学习》是斯坦福大学开设的一门课程，专注于利用深度学习技术解决自然语言处理（NLP）问题。这门课程的笔记全面覆盖了NLP领域的核心概念、算法以及最新的研究进展。通过深入学习这...
AWE:通过匿名行走嵌入计算图形嵌入
04-30
介绍 该代码用于论文Anonymous Walk Embeddings（ ），该论文基于基于特征和数据驱动的方法为整个图创建嵌入，并评估图分类任务的结果。 教程 检查笔记本Tutorial.ipynb以了解如何获取网络嵌入，加载/保存嵌入矩阵，计算内核矩阵以及执行SVM计算。 运行代码 以下命令将使用参数运行数据驱动的模型。 python AnonymousWalkEmbeddings.py --dataset mutag --root ./Datasets --window_size 16 --batch_size 100 --batches_per_epoch 100 --num_samples 64 --steps 10 --results_folder mutag_results 以下命令将使用参数运行数据驱动的模型。 python AnonymousWalkKernel.p
CS224W 3.3 Embedding Entire Graphs
记录学习历程
11-07 488
聚类或社区检测，对节点嵌入进行聚类节点分类：基于节点嵌入预测节点i的标签链接预测：基于(,)预测(i,j)之间的边利用节点的嵌入图分类：图嵌入通过聚合节点嵌入或者利用anonymous random walks。可以用来预测标签。第三课讨论了graph representation learning,与传统的方法不同，不需要特征工程，可以学习节点嵌入和图嵌入用于下游任务。
random walk（随机游走）
wangprince2017
12-07 1015
# Numpy is imported, seed is set import numpy as np np.random.seed(123) # Initialize random_walk random_walk = [0] # Complete the ___ for x in range(100) : # Set step: last element in random_wal...
文献阅读（38）ICLR2021-Inductive Representation Learning in Temporal Networks via Causal Anonymous Walks
CSDNTianJi的博客
03-07 2225
本文是对《Inductive Representation Learning in Temporal Networks via Causal Anonymous Walks》一文的浅显翻译与理解，如有侵权即刻删除。
cs224w 图神经网络 学习笔记（八）Graph Representation Learning 图表示学习
喵木木的博客
07-22 2757
课程链接：CS224W: Machine Learning with Graphs 课程视频：【课程】斯坦福 CS224W: 图机器学习 (2019 秋 | 英字) 目录
cs224w（图机器学习）2021冬季课程学习笔记3: Node Embeddings
诸神缄默不语的博客
05-31 9877
cs224w（图机器学习）2021冬季课程学习笔记3: Node Embeddings 1. 章节前言 2. Node Embeddings: Encoder and Decoder 3. Random Walk Approaches for Node Embeddings 4. Embedding Entire Graphs 5. 本章总结
Inductive Representation Learning In Temporal Networks via Causal Anonymous Walks
Milkha的博客
03-09 1768
文章目录1 前言2 问题定义3 CAW思路3.1 Causal Anonymous Walk3.1.1 Causality Extraction3.1.2 Set-based Anonymization3.2 Neural Encoding for Causal Anonymous Walks3.2.1 Encode W^\hat{W}W^3.2.2 Encode Su∪SvS_u \cup S_vSu​∪Sv​5 方法的优势/局限5.1 优势5.2 局限Reference 论文地址：https://ar
CS224W摘要03.Node Embedding
老毛的博客
09-12 487
文章目录Encoder 和Decoder框架Encoder小例子Note随机游走notation特点算法描述负采样优化SGD小结Node2Vec小结Embedding entire graphs新法 Learn Walk Embedding CS224W: Machine Learning with Graphs 公式输入请参考：在线Latex公式 上一节讲的是传统的图机器学习如何进行特征工程的（node-level, edge-level, graph-level features） 而这节课的目标是自动
图神经网络论文阅读(十六) GraLSP: Graph Neural Networks with Local Structural Patterns,AAAI 2020
qq_36618444的博客
10-08 1598
本文作者来自香港科技大学、北大和北邮，其中包含宋国杰老师和石川老师，这两位都是国内研究图表示学习的翘楚了。之前读石川团队论文的时候自己犯傻发邮件问了一个比较弱智的问题，石川老师还是让学生耐心帮我解答了。 本文做了我一直想做的事情：GNN聚合邻居特征的时候同时考虑结构信息。有很多研究都是基于Motif（或者叫graphlet）进行的，比如High Order Network Representation，WWW2018，不过需要事先的人工定义，在前几年唐杰老师（比如StructInf: Mining Stru
斯坦福CS224W图机器学习笔记：为何研究网络与图的基本概念
"cs224w 图神经网络 学习笔记（一）Introduction1" 在图神经网络（GNN）的学习中，首先我们要理解的是，网络作为一种强大的抽象工具，能够帮助我们描述和分析复杂系统中各元素之间的相互作用。网络是由节点（Nodes...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值