er图 实体关系 多个_图神经网络边的embedding

本文探讨了图神经网络中边的构建和信息传递方式,特别是在不同类型边的处理上。文章列举了五个实例,涉及学者论文集、常识类知识图谱等数据集,分析了不同边的类型和对应的Embedding方法,如Attention机制、GCN、TransE等。在知识图谱中,边的信息处理更为丰富,而在图像分类的多标签任务中,边的处理相对直接。作者认为边特征处理还有改进空间,期待更多创新方法。
摘要由CSDN通过智能技术生成

这次主要想看一下图神经网络上的边是怎样去构建的。在图神经网络上边是一种信息传递的过程,但由于依靠的图不一样这种信息传递的类型也不一样,所以在思考这些边的构造是不是也应当各有特色,主要就看了5个,以后看到再更吧。

type-aware anchor link prediction across heterogeneous networks based on graph attention network

数据集:学者论文集

边的类型:

7aa599eba948df91922f19018c553097.png

Embedding方法:对不同类型的边都有一种类型的weight,对于边指向的节点,这些节点使用attention的形式衔接在一起。

d7a3c5d9aa020893927b72d24f6caebf.png

Composition-based Multi-Relational Graph Convolutional Networks

数据集:常识类知识图谱

边的类型:包括各种类型,正反向

Embedding方法:

941d7533510794852b97eba22a19d110.png

对应3种边的方向,对于知识图网络来说剪头指向的两端都会有作用,所以就没有将前两项统一成一种。并且还加入了一种对于边会形成loop的情况设定的weight。之后对于节点的集中采用GCN的形式对各个节点进行信息传播。

598e354951d5a0dc89370f0523b16742.png

End-to-end Structure-Aware Convolutional Networks for Knowledge Base Completion

数据集:常识类知识图谱

边的类型:知识图谱的各种类型

Embedding方法:采用transE方法增强信息的表达能力。TransE:es + er ≈ eo ,即一个目标实体可以由当前实体的向量+边向量的和组合而成。这种合成的信息可以看做kernel当作convolution的输入信息,这样组合起来成为Conv-TransE。(PS:是不是还会有Conv-TransR,Conv-RotatE。。。)

Multi-Label Classification with Label Graph Superimposing

数据集:图像分类的多标签任务

边的类型:标签的共现概率

Embedding方法:结合统计的共现概率和ConceptNet的结果直接对全联接矩阵赋值,如果两种关系都没有那么邻接矩阵会赋值为0,不允许通过。

Graphonomy: Universal Human Parsing via Graph Transfer Learning

数据集:图像分类的多标签任务

边的类型:可训练的邻接矩阵

Embedding方法:由于邻接矩阵是可训练的,所以没有什么特殊的编码方式。不过这篇文章重点在于怎么利用迁移学习的方法去整合多种关系图,所以这个时候这个邻接矩阵也是可以用于这种迁移的。

总结:感觉考虑边的信息更多的还是在知识图谱里,毕竟对于字比较好编码。比较意外的是对于后面两篇做label共现的边就直接这样过去了。。。比较意外。换一种角度想如果把这种共现的概率当作知识,而不是单纯的数值,会不会更好呢。。。但确实直接将概率赋值到邻接矩阵是一种最显而易见的做法。总觉得比较欠缺什么,感觉似乎这些边特征的处理方式还能在想一些更好的方法。。。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值