WWW 2020 开源论文 | 异构图Transformer

最新推荐文章于 2023-03-06 09:50:35 发布
最新推荐文章于 2023-03-06 09:50:35 发布
阅读量1.5k 收藏 13
点赞数 1
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/c9Yv2cf9I06K2A9E/article/details/105303983
版权


论文标题：Heterogeneous Graph Transformer

论文来源：WWW 2020

论文链接：https://arxiv.org/pdf/2003.01332.pdf

代码链接：https://github.com/acbull/pyHGT

简介

近年来，图神经网络（GNNs）在图数据分析领域取得了巨大的成功。然而，大多数的 GNN 都是针对同构图设计的。在同构图中，所有的节点和边都属于同一种类型。

然而实际生活中，我们可能会处理更复杂的图数据，其节点与边会有不同的类别，学术界称这类图数据为异构图。

比如学术网络、知识图谱，乃至物联网等。例如，下图中的开放学术网络包含五种类型的节点:论文、作者、机构、会议和领域，以及它们之间不同类型的关系。

在这篇论文中，我们提出了一种处理异

最低0.47元/天 解锁文章
PaperWeekly
关注
  • 1
    点赞
  • 踩
  • 13
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
【PaperReading】HGT：Heterogeneous Graph Transformer
小哲的博客
05-19 875
近年来见证了图神经网络（GNN）在建模结构化数据中的新兴成功。但是，大多数GNN都是为均匀图设计的，其中所有节点和边缘都属于相同类型，使它们不可避免地代表异质结构。在本文中，我们介绍了用于建模网络尺度异质图的异质图变压器（HGT）体系结构。为了建模异质性，我们设计了依赖性参数，以表征每个边缘上的异质注意力，从而赋予HGT以维护不同类型的节点和边缘的专用表示。为了处理动态异质图，我们将相对时间编码技术引入HGT，该技术能够以任意持续时间捕获动态结构依赖性。要处理网络尺度的图形数据，我们设计了异质的迷你批次图采
异构图神经网络（5）Heterogeneous Graph Transformer
qq_42275073的博客
02-02 2577
这篇文章发表在WWW2020，提出了动态异构图建模方法。 HGT Motivation 现在基于GNN来学习异构图的方法有以下几点问题： 大多数方法，对于每一种异构图，都需要特定的领域知识来设计meta paths； 他们有的简单假设节点/边的不同类别都共享着相同的特征空间，或者有的对于不同的类别，分别设置了权重，来让它们的特征向量被映射到同一特征空间中。作者认为这样不足以捕获异构图特性； 大多数方法都忽略了异构图的动态特性。 Contribution 提出了依赖于边和节点类别的注意力机制，解决图的异
2020-WWW-Heterogeneous Graph Transformer
Bourne___1的博客
03-24 786
Abstract Method 本文提出了异构图transformer，主要思想是使用异构图中的meta relation参数化（parameterize）异构交互注意力，消息传播以及聚合的参数矩阵。 1 整体架构： 目标：聚合源节点s的信息形成一个具有上下文表示的目标节点t。 可以将这个过程分为三个阶段： Heterogeneous Mutual Attention Heterogeneous Message Passing Target-Specific Aggregation 2 通常基于
使用DGL进行异构图元路径采样
myblog
10-21 1555
异构图元路径采样 import dgl import tqdm import os def construct_graph(): node_src = [1,2,0,3,4,5,6,7] node_dst = [2,0,1,1,1,6,7,8] data1 = (node_src,node_dst) data2 = (node_dst,node_src) hg = dgl.heterograph( {('paper','pa','autho
论文浅尝 | 异构图 Transformer
开放知识图谱
10-13 2043
笔记整理：许泽众，浙江大学博士在读论文链接：https://arxiv.org/abs/2003.01332本文主要提出一种处理异构图的方法，所谓异构图（Heterogeneous gra...
论文笔记：WWW 2020 Heterogeneous Graph Transformer
qq_44015059的博客
10-17 3490
1. 前言 论文链接：https://arxiv.org/abs/2003.01332 github：https://github.com/acbull/pyHGT 近年来，图神经网络(GNNs)在结构化数据建模方面取得了巨大的成功。但是，大多数GNN为同构图设计，同构图中所有的节点和边都属于相同的类型，这使得它们无法表示异构结构。本文中提出了一种异构图转换器(HGT)体系结构来建模网络规模的异构图。为了对异质性进行建模，本文设计了节点和边类型相关的参数来表征每个边缘上的异质性注意，使HGT能够对不同类型的
Python库 | ssm-transformer-0.1.0.tar.gz
05-22
资源分类：Python库 所属语言：Python 资源全名：ssm-transformer-0.1.0.tar.gz 资源来源：官方 安装方法：https://lanzao.blog.csdn.net/article/details/101784059
Python库 | safe-transformer-0.0.1.tar.gz
05-21
资源分类：Python库 所属语言：Python 资源全名：safe-transformer-0.0.1.tar.gz 资源来源：官方 安装方法：https://lanzao.blog.csdn.net/article/details/101784059
PyPI 官网下载 | watson-transformer-0.0.5.tar.gz
02-11
《PyPI官网下载的Watson Transformer 0.0.5：深入理解Transformer、Zookeeper与分布式深度学习》 PyPI（Python Package Index）是Python开发者的重要资源库，它提供了丰富的Python包供全球开发者下载和使用。在本次...
Python库 | coords_transformer-0.0.4.tar.gz
05-13
资源分类：Python库 所属语言：Python 资源全名：coords_transformer-0.0.4.tar.gz 资源来源：官方 安装方法：https://lanzao.blog.csdn.net/article/details/101784059
Python库 | routing_transformer-0.1.4.tar.gz
04-14
资源分类：Python库 所属语言：Python 资源全名：routing_transformer-0.1.4.tar.gz 资源来源：官方 安装方法：https://lanzao.blog.csdn.net/article/details/101784059
异构图-GTN（Graph Transformer Networks）
vincent_duan的专栏
09-27 3124
上一节的HAN表示异构图的Attention Network，通过手动设置Meta-path，然后聚合不同Meta-path下的节点attention，学到节点最终的表示。但是这个方法是手动选择Meta-path的，因此可能无法捕获每个问题的所有有意义的关系。同样，元路径的选择也会显著影响性能 而Graph Transformer Networks是自动聚合Meta-path，同时以端到端的学习方式转换图上的节点表示形式。 几个概念 τv\tau ^vτv：节点的类型 τe\tau^eτe：边的类型 AC
异构图神经网络
热门推荐
ShenggengLin的博客
05-03 2万+
1. 摘要     异构图表示学习的目的是为每个节点寻求一个有意义的向量表示，以方便后续应用，如链路预测、个性化推荐、节点分类等。然而,这个任务实现起来很困难。因为不仅需要将异构结构组成的多种类型的节点和边的信息整合,还需要考虑与每个节点相关联的异构属性、异构内容。尽管在同构图嵌入、属性图嵌入以及图神经网络等方面做了大量的工作，但很少有人能够有效地联合考虑异构结构(图)信息以及各节点的异构内容信息...
图学习？Transformer：我也行
fareise的博客
05-15 1762
微信公众号“圆圆的算法笔记”，持续更新NLP、CV、搜推广干货笔记和业内前沿工作解读~ 后台回复“交流”加入“圆圆的算法笔记”交流群；回复“时间序列“、”多模态“、”迁移学习“、”NLP“、”图学习“等获取各个领域干货算法笔记~ Transformer诞生于NLP领域，目前已经成为NLP中的主力模型。同时，Transformer在CV领域也逐渐显示出其超强的能力，诸如ViT、Swin Transformer、BEiT等Vision Transformer模型验证了Transformer同样适.
【PyG】异构图学习 - 图神经网络
C橘子
12-30 9057
使用PyG库进行异构图神经网络学习
【论文解读 ICEIT2022】Heterogeneous Graph Based Knowledge Tracing基于异构图的知识追踪
qq_36291847的博客
03-03 2160
文章目录摘要1 引言2 相关工作2.1 知识追踪2.2 异构图嵌入5 结论 摘要 最近，随着在线辅导系统的发展，对知识追踪(Knowledge Tracing)的研究有所增加。知识追踪可以预测学生在一段时间内的作业表现。以往的研究，如贝叶斯知识追踪(Bayesian Knowledge Tracing)、深度知识追踪(Deep Knowledge Tracing, DKT)和深度知识追踪(qDKT)，主要集中在技能水平和问题水平。因此，这些方法没有考虑到问题与技能的相关性。受异构图嵌入(HGE)的启发，我们
ICLR 2020趋势分析：NLP中更好&更快的Transformer
abcdefg90876的博客
05-27 1048
作者：Gabriele Sarti编译：ronghuaiyang导读介绍了ICLR2020中对Transformer的改进，从自注意力变体，训练目标，模型结构这三个方面对Transfor...
HAN - Heterogeneous Graph Attention Network 异构图注意力网络 WWW2019
u013602059的专栏
03-13 1万+
论文题目：Heterogeneous Graph Attention Network （HAN）异构图注意力网络 作者：北京邮电大学Xiao Wang，Houye Ji等人 来源：WWW2019 论文链接：https://arxiv.org/pdf/1903.07293.pdf tensorflow版代码Github链接：https://github.com/Jhy1993/HAN ...
PyG处理异构图Heterogeneous Graph代码实现
CSDN 精品推荐
03-06 948
异构图在图任务中非常常见，例如社交推荐图、论文引用图等，对于这类图使用传统的同构网络 `GCN`、`GAT` 是无法处理的，所以想要处理异构图 `Heterogeneous Graph` ，这里提供了几种实现策略，供小伙伴们参考：将同构网络模型转化为异构网络模型，将异构图转化为同构图，使用异构卷积包装器(Heterogenous Convolution Wrapper)搭建异构网络，使用异构卷积算子(Heterogenous Operators)搭建异构网络。
图片transformer
最新发布
08-29
- *2* [【读点论文】Transformer in Transformer 细化图片结构，递归使用transformer。让图片去拟合自然语言处理的...](https://blog.csdn.net/weixin_43424450/article/details/124086311)[target="_blank" data-...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值