【CS224w图机器学习】第一章 图机器学习导论

一.前言

笔记参考b站同济子豪兄的视频而成，源于斯坦福CS224W

学完本章，你将会对图神经网络有初步的了解，同时对于应用层面也有初步的印象

1.1关键词

图机器学习、图数据挖掘、图神经网络（GNN）、图卷积神经网络（GCN）、知识图谱、知识计算、对话问答、推荐系统、社会计算、媒体计算、网络智能、搜索引擎、社交网络、情感计算

1.2 学习路径

斯坦福CS224W(子豪兄的中文精讲版)、知识图谱实战

1.3 必读论文

• Deepwalk、Node2vec
• PageRank
• GNN、GCN、Gragh-SAGE、GIN、GAT
• Trans-E、Trans-R

二.图

2.1 为什么要做图神经网络？

在大自然当中图无处不在，很多自然现象都可以用图中的结点以及结点之间的的连接来表示。由于我们获取的大部分数据中，存在数据与数据之间的关联现象，我们称之为关联数据，关联数据表示数据之间是存在联系的，而图就可以用来描述关联数据，简言之，图：描述关联数据的通用语言

在传统机器学习以及数据挖掘中，每一个数据相互之间都是独立的，我们称其满足独立同分布(iid),同时每一个数据彼此之间都是无关的，例如每一朵鸢尾花之间，每一个手写数字图像之间，每一张猫狗图像之间，这些图像本身是没有任何关系的

但是现在我们用图将这些数据联系起来

2.2 身边的图

例如事件关系图，计算机网络之间形成的关系，病毒的传播路径，食物链，地铁站

社交网络，经济网络，通信网络，论文之间的引用网络，互联网中各个网页形成的网络，以及人脑神经元之间形成的网络

医疗知识图谱（疾病和某些药物、手术、甚至营养物质等进行关联）、基因与蛋白质的调控网络、场景图（比如蔡徐坤、背带裤之间的联系，一个人的各个关节如头，肩膀等之间的联系推断出这个人在做什么）、代码中的操作、运算、函数等抽象为图（例如神经网络中的计算图，包含卷积池化等）、分子抽象为一个图（元素之间以化学键以及相互作用力为连接，应用于药物设计）、3D建模等

2.3 图论

图论最早起源于哥尼斯七桥问题

本质是将现实中复杂的问题抽象为结点与连线的简单形式，易于理解

3.如何用图数据进行数据挖掘？

3.1 传统机器学习方法

传统机器学习里面分类和回归中，数据与数据之间不知道彼此的存在，例如猫狗图像分类，这张猫的图片是不知道另外一张狗的图片的存在的，因为不需要关注这些。在图像分类中，只需要一条直线或者曲线形状的决策边界来划分类别，而不需要考虑数据与数据之间的关系。回归中也是如此，我们只需要一条线来拟合数据，至于挖掘出数据之间的关系对于回归任务来说是不重要的。

3.2 神经网络在数据中的应用

我们知道卷积神经网络（CNN）可以用于处理图像数据，图像数据本质上是矩阵数据（一张图像实际上就是由一个个像素点组成）。而循环神经网络（RNN）用来处理文本或者语音这种序列数据.2017年提出的transformer则在图像、语音、文本数据方面都有应用，例如图像处理的swintransformer，文本语音的bert、gpt等，都是transformer的应用。

我们知道上述神经网络可以用来处理矩阵、表格、序列数据，那么有没有一种神经网络可以用来处理图这种关联数据呢？那就是图神经网络

2018年比较热火的有元学习、连续学习等，直到2020年，图神经网络已经成为新的大热门，图神经网络已经变得更加重要了

3.3 图深度学习为何如此难？

• 难点一：图是任意尺寸的，例如全国的社交网络和全村的社交网络，这需要图神经网络能兼容任意尺寸的输入以及复杂的拓扑结构。与文本或者图像数据不一样的是，一张图片的大小或者一个句子的长度总是有限的，而图则是任意尺寸的，想一想全国的社交网络，这得有多大，一次性全输进去，爆炸~。
• 难点二：对于一个图来说，它没有固定的结点顺序（所以应该先输入哪个结点？）也没有参考的锚点（对于图像来说，我们是知道卷积要从上到下从左到右，序列数据也是从句子的第一个字/词到最后一个来处理的，这个最先处理的部分叫做参考的锚点，而图是任意的，没有锚点的）
• 难点三：图是动态变化的（对于全国社交网络而言，每时每刻都在动态变化，不断有新的结点加入）
• 难点四：图是多模态的，对于音乐app中的一首歌，又有音频，又有评论，又有歌手的图片、mv视频等等等，如何充分利用这些多模态特征也是传统的神经网络无法解决的

我们需要图神经网络能解决以上挑战，以兼容复杂而带关联的数据类型

3.4 图神经网络简图

我们仍然把它先当作一个黑箱模型，输入是一个图，输出可以是结点的类别、某两个结点的新的连接、一个新的图或者子图。

而中间的黑箱模型包含图卷积操作、激活函数、正则化、DropOut等操作，这一点在后面再进行详细介绍

这个黑箱模型可以实现端到端的表示学习，而不需要我们人为去提取图数据的某一个特征，与传统神经网络一样，图神经网络也可以帮我们自动筛选特征。这里的端到端就是说不需要我们去辅助，一个黑箱，硬train一发就能解决

这里表示学习意味着一个结点可以被映射为一个d维的向量,而这个d维的向量就包含了这个节点的语义信息，整个将图映射为嵌入向量的过程叫做图嵌入,例如一个图有256个结点，那么该图经过图嵌入，转换为256行d维的向量

4.课程概述

4.1 课程概述

• 1.传统方法：Graphlets，Graph Kernels
• 2.结点嵌入方法（node embedding）：DeepWalk，Node2Vec
• 3.图神经网络(GNN)：GCN（图卷积），GraphSAGE，GAT，Theory of GNNs(GNN的理论、表示能力、潜在的缺陷、如何改进等等)
• 4.知识图谱和推理(Knowledge graphs and reasoning):TransE,BetaE
• 5.生成图的深度模型（Deep generative models for graphs）：GraphRNN
• 6.图数据挖掘在生物医学、科学、工业中广泛的应用

4.2 课程大纲

课程大纲如下

主要有20讲

• 第一讲：图机器学习导论
• 第二讲：图机器学习传统方法
• 第三讲：图嵌入（结点嵌入）
• 第四讲：谷歌：PageRank算法
• 第五讲：结点分类
• 第六、七、八、九讲：GNN的表示能力、背后的理论、在各行各业的应用
• 第十、十一讲：知识图谱的嵌入、推理和补全
• 第十二、十三讲：社群检测，对子图层面进行挖掘
• 第十四、十五讲：图生成
• 第十六、十七讲：图神经网络的高阶应用
• 第十八、十九讲：课程的一些讲座

5. 图机器学习编程工具

5.1 一些图机器学习的库

• PyG：斯坦福大学自制图神经网络的库，向pytorch一样可以搭积木
• NetworkX：“瑞士军刀”，和sklearn一样有各种各样的工具和算法，可以自行构建知识图谱
• DGL：复现了很多顶会的论文，比较适合学术研究

5.2 辅助库

• 图数据可视化
  • AntV
  • Echarts：百度和阿帕奇联合制作

5.3 图数据库

图数据库是用来存储、推理、索引图数据的数据库

第一名是Neo4j,一般就用这个Neo4j就可以了

6.图机器学习应用

6.1 应用层面分类

6.1.1 任务层面

• 1.最短途径的搜索与查找（Pathfinding & Search）
  • 例如高德地图的导航
• 2.结点重要性（Centrality Importancce）
  • 衡量各个节点的重要性，例如某个大客户和一个普通用户的区别
  • 著名的PageRank算法用来解决这个问题（谷歌搜索里面哪个网页比较重要，就会排在前面）
• 3.社群检测（Community Detection）
  • 比如一群结点会有一个共同的祖先结点（可以理解为树干是祖先，树枝是子结点），这个由祖先结点领导的群体就叫做一个社群
  • 比如在银行卡信用欺诈里面，可以把一整个老赖村找出来
• 4.联系预测（Link Prediction）
  • 社交平台里面，会推荐你可能认识的人
  • 推荐系统：我给一个商品点赞，这个商品可能会推荐给我身边的人
• 5.结点相似度分析（Similarity）
  • 可能在知识图谱中两个结点哥的6很远，但是可能会有相似性
• 6.嵌入（Embeddings）
  • 将结点映射为向量

6.1.2 结构层面

• 结点层面（Node level）：对某一个结点进行分类，分析用户是否信用卡欺诈？
• 连接层面（Edge-level）：例如社交网络推荐你可能认识的人、推荐一些商品、推荐一些短视频
• 社群层面（Community level）：对用户进行聚类等
• 图层面（Graph-level）：分子是否有毒，生成新的分子等等

6.2 原理

6.2.1 结点层面

由已知结点推断未知结点

6.2.2 连接层面

• 最常见的是推荐系统
  • A和B同时购买了a商品，而A又购买了b商品，因此系统可能会把b商品也推荐给B
  • 本质上是由已知的连接推断出未知的连接
  • 当你购买了某一个商品，会推荐给你相似的商品
• 药物联合副作用
  • 由于不同的药物一起服用可能会产生额外的副作用，而不同药物的服用组合太多而不可能一一验证，只有通过已知的药物同时服用的副作用，以及组成该药物的蛋白质，来推断出未知组合药物的副作用

6.2.3 子图层面

• 导航
  • 结点：将一条条道路作为结点
  • 连接：道路与道路之间的连通性
  • 从A到B会产生不同的子图，选择距离最短和通行时间最少的子图作为导航路段，同时通过其他用户的数据来实时预测该路段的拥挤程度，进而综合预测通行时间

6.2.4 图层面

• 药物设计
  • 结点：原子
  • 连接：化学键
  • 潜在未知抗生素的种类是天文数字，我们不可能一个一个画出可能的结构然后合成并尝试，可以用图机器学习先选出一些有潜力的分子
• 物理模拟
  • 游戏、元宇宙等等都要进行粒子的模拟，比例流体力学、土壤、粘土等
  • 把每一个粒子都当成是一个结点，粒子之间的距离和相互作用力作为连接，由图神经网络来预测下一粒子的位置和速度，然后不停的迭代这个过程，就可以实现粒子的模拟
• 预测蛋白质空间结构
  • 最近爆火的AlphaFold
  • 通过氨基酸多肽链的一维结构来得到三维结构

7.扩展学习与继续学习

刘焕勇 http://liuhuanyong.github.io

公众号：老刘说NLP

8.其他

开源排行榜：http://open-leaderboard.x-lab.info
通过开源项目的活跃度等信息计算综合排序,也可以通过项目的热度来发现风头