GNN && NLP 视频笔记：

b站

1.nlp相关论文：

2.以往GNN存在的问题：

3.Graph-Bert：

第一步：
将原始图数据通过采样的方式，分解成一些子图。
第二步：
将每个结点向量化。
第三步：
transformer的编码器。
第四步：
transformer的解码器。

第一步：
选择中心结点，根据结点见得关联关系，选择可能性最大的K个结点作为邻接结点。
注意选出的子图中，点之间线是使用虚线。这是由于其本身可能不是相连的。
第二步：
1.获取结点的原始特征向量。如glove
2.每个节点在整张图中的唯一表示。每个节点在整张图中的位置。
3.给出结点的相对位置向量，由相对中心结点的位置决定
4.综合2, 3步求出某一节点的最终的向量。 其中，vj表示中心结点，vi表示vj跳步到达的结点。

将上述4点，每一步的结果相加得到某一个结点最终的向量。

4.第三步：

我们观察到公式发生了变化。前面多了一个矩阵，
原文说 让矩阵学习到子图的一个上下文的信息。？？？？？？？

5.整篇论文与GNN的区别，抛弃了用边的表示。使用的是

这些步骤来隐含的表示，

6.