LGI-GT:局部算子与全局算子交错的图变换

LGI-GT:局部算子与全局算子交错的图变换

Shuo Yin , Guoqiang Zhong
Proceedings of the Thirty-Second International Joint Conference on Artificial Intelligence (IJCAI-23)

本文提出了一种新的具有局部和全局算子交错的图Transformer(LGI-GT),在该转换器中,我们进一步设计了一种传播[CLS]令牌嵌入的新方法,用于全局信息表示。此外,我们提出了一种有效的消息传递模块,称为边缘增强局部关注(EELA),使LGI-GT成为全关注的GT。

GNN+Transformer方案中的GT

经过若干个GConv层的G1已经是过度平滑图,后续的TLayer层几乎是没有意义的
在这里插入图片描述

并行方案的GT

GPS选择直接相加,操作过于简单可能影响性能
在这里插入图片描述

LGI-GT方案

k个GConvs和k个TLayer以交错方式堆叠
在这里插入图片描述

框架

在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值