KDD 2023论文All in One | 多任务提示在图神经网络中的应用

最新推荐文章于 2025-04-29 11:50:49 发布
最新推荐文章于 2025-04-29 11:50:49 发布
阅读量1.2k 收藏 29
点赞数 29
分类专栏： # KG图神经网络GNN、GCN、GCT LLM大语言模型 知识图谱KnowledgeGraph 文章标签： 神经网络 人工智能 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sinat_37574187/article/details/137071153
版权
孙相国博士的论文提出了一种图神经网络的多任务提示方法，通过统一图任务格式，将下游问题重构为图级任务，并利用元学习优化提示，以增强模型的泛化能力和适应不同图任务。研究展示了在少样本和迁移学习场景下的优势。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

KDD 2023 | 多任务提示在图神经网络中的应用

IDEA Lab AIforBio 2024-03-11 21:43 北京

编译 | 赵云峰

审稿 | 康祥平

图片

  今天给大家分享的是香港中文大学的孙相国博士发表在the 29th ACM SIGKDD Conference on Knowledge Discovery and Data Mining (KDD-2023)会议上的一篇论文“All in One: Multi-Task Prompting for Graph Neural Networks”。该论文提出了一种用于图神经网络的全能型多任务提示方法，通过在图领域引入提示学习的思想，填补了预训练模型与各种图任务之间的差距，实现了更好的模型泛化性能。同时，该论文获得了KDD2023研究方向的最佳论文奖

了解本专栏 订阅专栏 解锁全文 超级会员免费看
[论文解读]All in one：: Multi-Task Prompting for Graph Neural Networks图神经网络的多任务提示
强化学习曾小健
02-26 1821
这个函数可能是对提示图参数进行操作的某种计算，比如根据这些参数生成新的节点表示，或者更新模型的状态以适应新任务。在不同的上下文中，函数 f(θ) 可以有不同的具体含义，它通常会涉及到如何使用这些参数来影响模型的行为或其对数据的处理方式。不过，由于我无法直接查看PDF文件的内容，所以这里的解释是基于常见的机器学习和深度学习术语的一般性解释。提示图是一种用于调整预训练模型以适应特定任务的结构，这些参数可能包括用于构造提示的节点和边的权重，或者其他用于定义提示图结构的属性。与原始图 G 结合后的新表达式。
【CTR排序】多任务学习之MMOE模型
发现问题，并解决问题，批判性思维
09-18 1823
如果任务之间差的很大，MOE这种单门控控制的方式就不行了，因为此时底层的多个专家学习到的特征模式相差可能会很大，毕竟任务不同，而单门控机制选择专家组合的时候，肯定是选择出那些有利于大多数任务的专家， 而对于某些特殊任务，可能学习的一塌糊涂。更关键的时候，参数量还不会增加太多。为了增加灵活性， 为不同的模型还学习了重要性权重，这可能考虑到了在学习任务的共性模式上， 不同的模型学习的模式不同，那么聚合的时候，显然不能按照相同的重要度聚合，所以为各个专家学习权重，默认了不同专家的决策地位不一样。
KDD2024 | GCOPE：港科广联合港中文提出首个跨域图预训练框架
AITIME_HY的博客
08-20 917
点击蓝字关注我们AI TIME欢迎每一位AI爱好者的加入！点击阅读原文观看作者赵海宏直播讲解回放！今天介绍香港科技大学（广州）数据科学与分析学域李佳教授团队发表的一篇关于图预训练（Graph Pretraining）的文章" All in One and One for All: A Simple yet Effective Method towards Cross-domain Graph Pr...
All in One: Multi-Task Prompting for Graph Neural Networks学习笔记
weixin_55334398的博客
03-01 969
主要研究了图神经网络（GNN）中多任务提示（multi-task prompting）的方法。文中讨论了传统的GNN“预训练与微调”方法和下游任务割裂，特别是在节点级（node-level）、边级（edge-level）和图级（graph-level）任务之间（不同任务之间不通用）。为了克服这些问题，文中引入了“提示学习”（灵感来自自然语言处理中的方法）并将其应用到图任务中。核心思想是构建一个框架，利用图级提示来提升预训练图模型在多种任务中的可迁移性和泛化能力。
All in One: Multi-Task Prompting for Graph Neural Networks
qq_48016457的博客
10-09 1797
包括任务，损失函数，支持数据，询问数据。每个任务分成点任务、边任务、图任务；损失函数分为点、边、图；支持数据分为点、边、图；询问数据分为点、边、图。我们将每个节点/边/图类视为二元分类任务，以便它们可以共享相同的任务头。
KDD 2023 图神经网络方向论文总结
简简单单的学习笔记，致力于帮助更多前进路上的朋友~
02-22 3284
本文主要收集KDD2023中与图神经网络相关的论文。
实时追踪科研动态丨姚期智等人8.9精选新论文，附ChatPaper综述
AI_Conf的博客
08-10 413
作为科研人员，每天需要检索和浏览大量的学术文献，以获取最新的科技进展和研究成果。然而，传统的检索和阅读方式已经无法满足科研人的需求。ChatPaper，一款集检索、阅读、知识问答于一体的文献知识工具。帮助你快提高检索、阅读论文效率，获取最新领域研究动态，让科研工作更加游刃有余。结合前沿动态订阅功能，精选arXiv当日热门新论文，形成论文综述，让大家更加快速了解前沿动态。论文讨论了在图神经网络中使用多任务提示的问题。
知识图谱、图神经网络等一周论文整理(一)
いいこと？暁の磕盐线に胜利を刻みなさいっ！
12-17 2047
模型篇 清华孙茂松组：入门GNN必读35篇 High 【图神经网络】MixHop: Higher-Order Graph Convolution Architectures via Sparsified Neighborhood Mixing #开源论文# #ICML 2019# 本文是图分析大牛Bryan Perozzi组发表于ICML 2019的工作。本文argue现有的GNN模型无法学习到...
深度学习在大数据挖掘中的应用实践
最新发布
AI天才研究院
04-29 736
本章节聚焦深度学习技术在大数据挖掘场景中的工程化应用传统数据挖掘方法（如决策树、SVM）在大数据场景下的局限性深度学习如何通过自动特征学习突破传统特征工程瓶颈工业级大数据挖掘项目中深度学习模型的设计与优化策略典型行业场景（如金融风控、推荐系统、舆情分析）的实践路径核心概念：定义深度学习与大数据挖掘的技术边界算法原理：解析关键模型（如DNN、CNN、Transformer）的数学基础项目实战：以电商用户行为分析为例，演示全流程工程实现应用场景：覆盖金融、零售、医疗等多行业落地案例。
LLM论文周报｜来自清华、复旦、谷歌等机构前沿论文研究
AI_Conf的博客
08-14 463
提出了一种新的方法——累积推理（Cumulative Reasoning，CR），通过在语言模型中以累积和迭代的方式模拟人类思维过程，将任务分解为较小的组成部分，使问题解决过程更加可管理和有效。LLM的特点是规模庞大，包含数十亿的参数，帮助它们学习语言数据中的复杂模式。2022年底，OpenAI 推出的基于 GPT-3.5 的大型语言模型 ChatGPT，由于其优秀的表现，ChatGPT 及其背后的大型语言模型迅速成为人工智能领域的热门话题，吸引了广大科研人员和开发者的关注和参与。
【论文分享】ACL 2020 社交网络谣言判别中可解释性相关研究
zenRRan的博客
08-21 4475
来自：复旦DISC引言谣言始终与人类社会的发展形影相随，随着互联网的发展和网上言论的开放，虚假的、未经证实的信息极易在社交网络平台上广泛传播，带来不良社会影响。目前，网络谣言常被定义为“...
谣言检测数据集
qq_40671063的博客
12-31 9484
谣言检测数据集
【数据集下载】虚假内容检测，谣言检测，事实核查--纯文本，多模态，多语言，社交信息--rumor/misinformation/fake news detection dataset download
me_yundou的博客
11-09 8659
本博客系博主个人理解和整理所得，包含内容无法详尽，如有补充，欢迎讨论。这里只提供数据集相关介绍和来源出处，或者下载地址等，因版权原因不提供数据集所含的元数据。如有需要，请自行下载。博主目前暂时收集和整理了这些数据集，“其他”类别中的数据集还没有进行详细分析，同时还有许多不完善的地方。如有补充或者错漏敬请大家在评论区指正。会持续更新，对数据集进行详细介绍，提供相应的数据集下载地址。
KDD 2023奖项出炉！港中文、港科大等获最佳论文奖，GNN大牛Leskovec获创新奖
Paper weekly
08-10 353
©作者 |杜伟、陈萍来源 |机器之心KDD 2023 公布了最佳论文奖、博士论文奖、创新奖、时间检验奖等多个奖项。ACM SIGKDD（国际数据挖掘与知识发现大会，KDD） 会议始于 1989 年，是数据挖掘领域历史最悠久、规模最大的国际顶级学术会议，也是首个引入大数据、数据科学、预测分析、众包等概念的会议。今年的 KDD 大会是第 29 届，于 8 月 6 日 - 10 日在美国加州长滩举办...
COLING 2018 accepted paper
AI小白入门的博客
10-02 8866
COLING 2018 接受论文列表地https://coling2018.org/coling-2018-accepted-papers/ 详细如下： A Comparison of Transformer and Recurrent Neural Networks on Multilingual Neural Machine Translation – Surafel Melaku Lakew...
论文阅读：AutoDIR Automatic All-in-One Image Restoration with Latent Diffusion
Matrix-11
09-08 2340
这篇文章提出了一个创新的 all-in-one 的图像恢复框架，融合了隐扩散技术，各种不同的图像退化都可以用这一个模型搞定，简称 AutoDIR。AutoDIR 模型可以自动的识别以及恢复一系列未知的图像退化。AutoDIR 提供了直观的开放式词汇图像编辑功能，使用户能够根据自己的喜好定制和增强图像。AutoDIR 由两个关键阶段组成：一个基于语义无关的视觉语言模型的盲图像质量评估（BIQA）阶段，它会自动检测输入图像中的未知图像退化类型；
Talk | KDD‘23 Best Paper 港中文孙相国：All in One - 提示学习在图神经网络中的探索
TechBeat人工智能社区博客
09-21 357
本期为TechBeat人工智能社区第532期线上Talk！ 北京时间9月20日(周三)20:00，香港中文大学博后研究员—孙相国的Talk已准时在TechBeat人工智能社区开播！ 他与大家分享的主题是:“提示学习在图神经网络中的探索”，他分享了提示学习基本概念，并介绍了他的团队提出的图模型多任务提示方法。
《Rumor Detection By Exploiting User Credibility Information,Attention and Multi-task Learnning 》解读
qq_35213062的博客
02-27 2567
由于本人的文采并不是很好，所以之前一直对写博客有点抵触感。为了表达能力，这次真的拼了。。。。 我是做nlp方向的，目前是研一。最近刚确定了谣言检测这个方向，接下来解读的是我看关于谣言检测的第一篇文章，若有不理解的地方，还请见谅哈。 这是ACL顶会的一篇文章，将多任务学习与注意力机制应用到社交网络中谣言检测。 Rumor Detection By Exploiting User Credibili...
BP神经网络在入侵检测中的应用与KDDCUP数据分析
该资源是一个关于BP（反向传播）神经网络在入侵检测系统中的应用的研究档案。文件集包含了用于构建入侵检测系统的关键文件和脚本，以及用来进行测试和验证的数据集。通过对kddcup数据集的分析和研究，本资源利用BP...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

强化学习曾小健

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值