©PaperWeekly 原创 · 作者 | 于星橦
单位 | 中国科学技术大学博士生
研究方向 | 图神经网络
论文题目:
HGPROMPT: Bridging Homogeneous and Heterogeneous Graphs for Few-shot Prompt Learning
论文链接:
https://arxiv.org/pdf/2312.01878.pdf
代码链接:
https://github.com/Starlien95/HGPrompt
论文录用:
AAAI 2024 Main Technical Track
作者主页:
https://xingtongyu.netlify.app/
三分钟读论文
Powered by AI © PaperWeekly
摘要
图神经网络和异质图神经网络是图学习的重要技术,然而它们基于端到端监督框架,其性能极大地依赖于特定任务的监督信息的可用性。为了降低对有标记数据的依赖,基于无监督的预训练已成为一种流行的范式,但预训练和下游任务之间往往存在差距,这源于它们训练目标的不同。为了弥合这一差距,提示学习已成为一个有前景的方向,特别是在少量样本的场景下中,无需微调预训练模型。
尽管已经有一些图上的提示学习工作,但它们只处理同质图,忽视了下游应用中普遍存在的异质图。在本文中,我们提出 HGPROMPT,一种新颖的预训练和提示学习框架,不仅统一了预训练和下游任务,还通过双模板设计统一了同质和异质图。
此外,我们在 HGPROMPT 中提出双提示,以帮助下游任务获取最相关的预训练知识,以弥合不仅由特征变化,还有任务间异质性差异引起的差距。最后,我们通过在三个公共数据集上的广泛实验,全面评估和分析了 HGPROMPT 的性能。