LGI-GT:局部算子与全局算子交错的图变换
Shuo Yin , Guoqiang Zhong
Proceedings of the Thirty-Second International Joint Conference on Artificial Intelligence (IJCAI-23)
本文提出了一种新的具有局部和全局算子交错的图Transformer(LGI-GT),在该转换器中,我们进一步设计了一种传播[CLS]令牌嵌入的新方法,用于全局信息表示。此外,我们提出了一种有效的消息传递模块,称为边缘增强局部关注(EELA),使LGI-GT成为全关注的GT。
GNN+Transformer方案中的GT
经过若干个GConv层的G1已经是过度平滑图,后续的TLayer层几乎是没有意义的
并行方案的GT
GPS选择直接相加,操作过于简单可能影响性能
LGI-GT方案
k个GConvs和k个TLayer以交错方式堆叠