在正式开始前,先找准图神经网络GNN(Graph Neural Network)的位置。
图神经网络GNN是深度学习的一个分支。
深度学习的四个分支对应了四种常见的数据格式,前馈神经网络FNN处理表格数据,表格数据可以是特征向量,卷积神经网络CNN处理图像数据,循环神经网络RNN处理时序数据,图神经网络GNN处理图数据。
这里的FNN指的是如下图所示的带有输入层,隐藏层,输出层的网络。
但这四种对应关系并不是一成不变。
如果将图像拉直成向量,同样可以用FNN来处理。
声音文本这类时序数据,用RNN类型的网络最适合,但如果你把一个句子当作一个1*N的矩阵,那就可以用CNN处理了,只不过,CNN需要堆叠多个层来抓取时序数据中的上下文信息,这在图像领域被称为感受野。
注意:虽然可以通过一定的技巧把句子表示成矩阵然后用CNN处理,但从本质上来说,CNN还是不如RNN更适合处理时序数据。
如果将图像划分成patch,这些pathces组成序列,同样也可以用Transformer处理,这就是Vision Transformer:ViT。
而今天要讲的GNN,既能处理表格数据,又能处理图像,文本。
更准确地说,只要能表示成GNN兼容的图数据结构就能用GNN处理。
今天的文章来自distill发布的一篇博文:A Gentle Introduction to Graph Neural Networks。
网址:https://distill.pub/2021/gnn-intro/
B站沐神视频讲解:https://www.bilibili.com/video/BV1iT4y1d7zP/?spm_id_from=333.999.0.0
这篇文章写的非常好,亮点是不光有交互式图表,还有PlayGround,可见作者是下了一番功夫的。
先科普一下什么是Playground?
Playground通常指在机器学习和人工智能领域用来交互式体验和可视化AI模型的一种系统或平台。
下面展示两个AI Playground。