五大顶会2019必读的Graph Embedding最新论文

640?wx_fmt=png

来源: 深度传送门(ID:deep_deliver)

【导读】本文主要总结一下深度推荐系统相关的几大顶会(包含ICML2019/ KDD2019/ IJCAI2019/ WWW2019/ACL2019/ICCV2019等)必读的几篇Graph Embedding论文,都是工业界大厂最新的实践干货,各位老铁学不动也得学,请收好。

1. Cluster-GCN: An Efficient Algorithm for Training Deep and Large Graph Convolutional Networks作者:Wei-Lin Chiang, Xuanqing Liu, Si Si, Yang Li, Samy Bengio, Cho-Jui Hsiehhttp://t.cn/AipTSYnr

Google at KDD 2019,提出Cluster-GCN,高效解决工业界训练大规模深层图卷积神经网络问题,性能大幅提升基础上依靠可训练更深层网络优势达到SOTA效果,并开源了源代码。

2. DeepGCNs: Can GCNs Go as Deep as CNNs?

ICCV 2019 Oral,继Google的ClusterGCN工业风之后,成功将GCN从可训练3/4层拓展到56层,训练超级深层的图卷积神经网络。作者在 CNN 结构的启发下成功将 GCN 的可训练深度从 3/4 层拓展到了 56 层,大幅度提高了图卷积网络的性能,并开源了源代码。

3. Is a Single Embedding Enough? Learning Node Representations that Capture Multiple Social Contexts 

作者:Alessandro Epasto, Bryan Perozzi

论文:http://t.cn/AiukgqNA;代码:http://t.cn/AiukgqN7;

Google at WWW 2019,论文提出的Splitter是一种无监督的嵌入方法,允许图中的节点可以嵌入多个向量,以便更好地表示节点在一些重叠社区的参与。直观地说,这是因为图中的每个节点通常会在单个上下文中与给定的邻居节点产生交互。同时开源了代码。

4. NetSMF: Large-Scale Network Embedding as Sparse Matrix Factorization

作者:Jiezhong Qiu, Yuxiao Dong, Hao Ma, Jian Li, Chi Wang, Kuansan Wang, Jie Tang

论文:http://t.cn/AiuF7p97;代码:http://t.cn/EKneTNQ;

微软 at WWW 2019,提出适用于大规模网络表示学习方法NetSMF,利用稀疏矩阵分解来学习大规模网络embedding,相对于现有方法DeepWalk/ LINE/ Node2Vec等极大地提高了学习效率,并开源了代码。

5. ProNE: Fast and Scalable Network Representation Learning

论文:http://t.cn/AiC5cuXF;代码:http://t.cn/AiC5cuXs

微软 at IJCAI 2019,提出ProNE利用矩阵的稀疏性,本质上是用一个低通滤波对原矩阵进行滤波,大大提高了速度,可以得到10-400倍的加速比。并开源了代码。

6. Representation Learning for Attributed Multiplex Heterogeneous Network

作者:Yukuo Cen, Xu Zou, Jianwei Zhang, Hongxia Yang, Jingren Zhou, Jie Tang

论文:http://t.cn/Ai9I8OPE;代码:http://t.cn/Ai9I8OPn;解读:http://t.cn/Ai9CfBvw

阿里 at KDD 2019,主要处理包含异构节点和异构边的图的表示学习问题。阿里电商的数据由用户和商品构成的图就是异构的,不仅包含异构的节点(用户和商品),而且包含异构的边(用户和商品的多种交互行为,比如点击、购买等)。不仅如此,图中的节点还包含着丰富的属性。

7. Estimating Node Importance in Knowledge Graphs Using Graph Neural Networks 

作者:Namyong Park, Andrey Kan, Xin Luna Dong, Tong Zhao, Christos Faloutsos

论文:http://t.cn/EC2VhLD

Amazon at KDD 2019,提出GENI算法,解决知识图谱中节点重要性估计的问题。通过predicate-aware注意力机制和灵活的中心性调整来执行重要性分数的聚合,而不是聚合节点嵌入。在我们对GENI和现有方法的评估中,GENI在预测具有不同特征的真实KG中节点重要性方面比现有方法高出5-17%。

8. Compositional Fairness Constraints for Graph Embeddings 

作者:Avishek Joey Bose, William L. Hamilton

论文:http://t.cn/AiukgnqL;代码:http://t.cn/Aiukgnqy;

Facebook at ICML 2019,针对现有的Graph Embedding算法无法处理公平约束,例如确保所学习的表示与某些属性(如年龄或性别)不相关,引入一个对抗框架来对Graph Embedding实施公平性约束。并开源了代码。

9. Graph Matching Networks for Learning the Similarity of Graph Structured Objects 

作者:Yujia Li, Chenjie Gu, Thomas Dullien, Oriol Vinyals, Pushmeet Kohli

论文:http://t.cn/ES9dZYU

Google at ICML 2019,本文针对图结构物体的检索与匹配这一具有挑战性的问题,做了两个关键的贡献。首先,我们演示了如何训练图神经网络(GNN)在向量空间中嵌入图,从而实现高效的相似性推理。其次,提出了一种新的图匹配网络模型,该模型以一对图作为输入,通过一种新的基于注意力的交叉图匹配机制,对图对进行联合推理,计算出图对之间的相似度评分。

10. Large Scale Evolving Graphs with Burst Detection 

作者:Yifeng Zhao, Xiangwei Wang, Hongxia Yang, Le Song and Jie Tang   

论文:http://t.cn/AiC54K0M

阿里 at IJCAI 2019,提出一个叫做BurstGraph的模型,有意思的是主要通过burst的detection来拟合动态网络,这和传统大家都希望拟合一个平滑的动态模型不同。

11. Graph Neural Networks for Social Recommendation

作者:Wenqi Fan, Yao Ma, Qing Li, Yuan He, Eric Zhao, Jiliang Tang, Dawei Yin

论文:http://t.cn/AiuFAzVr;

京东 at WWW 2019,提出了一种新的用于社交推荐的图神经网络框架GraphRec。更好地联合捕获用户-商品图中的交互和意见。并在两个真实数据集上的大量实验证明了该框架的有效性。

12. Dual Graph Attention Networks for Deep Latent Representation of Multifaceted Social Effects in Recommender Systems

作者:Qitian Wu, Hengrui Zhang, Xiaofeng Gao, Peng He, Paul Weng, Han Gao, Guihai Chen

论文:http://t.cn/EiVtzOj;代码:http://t.cn/AiuFA5it;

腾讯 at WWW 2019,本文提出了对偶注意力网络来更好地学习双重社交效应的深度隐式表示,其中一个由用户特定的注意力权重建模,另一个由动态的、上下文感知的注意力权重建模。结果表明,与其他最先进的社交推荐方法相比,我们的模型在推荐精度上有了很大的提高。

13. MixHop: Higher-Order Graph Convolutional Architectures via Sparsified Neighborhood Mixing

作者:Sami Abu-El-Haija, Bryan Perozzi, Amol Kapoor, Nazanin Alipourfard, Kristina Lerman, Hrayr Harutyunyan, Greg Ver Steeg, Aram Galstyan

论文:http://t.cn/AiuFAY4V;代码:http://t.cn/Ai9bRyzk;

Google at ICML 2019,针对基于图神经网络的半监督学习方法(如图卷积网络)不能学习一般的邻域混合关系的缺点,提出了一个新的模型MixHop,它可以通过在不同距离重复混合邻居的特征表示来学习这些关系,包括不同的操作符。

14. GMNN: Graph Markov Neural Networks  

作者:Meng Qu, Yoshua Bengio, Jian Tang

论文:http://t.cn/EKOJK3x;

Bengio署名文章 at ICML 2019,统计关系学习方法可以通过条件随机场对对象标签的依赖关系进行有效的建模,用于集体分类,而图神经网络则通过端到端训练学习有效的对象表示来分类。在本文中,我们提出了一种集两种方法优点于一体的Graph Markov Neural Networks (GMNN)。GMNN利用条件随机场对目标标签的联合分布进行建模,利用变分EM算法对其进行有效训练。

15. Cognitive Graph for Multi-Hop Reading Comprehension at Scale  

作者:Ming Ding, Chang Zhou, Qibin Chen, Hongxia Yang, Jie Tang

论文:http://t.cn/EKSfKkr;代码:http://t.cn/AiCMhbOw

阿里 at ACL 2019,我们提出了一种新的基于CogQA的web级文档multi-hop问答框架。基于BERT和GNN的实现有效地处理了HotpotQA fullwiki数据集中数百万个multi-hop推理问题的文档,在排行榜上获得了34.9的F1 score,而最佳竞争对手的得分为23.6。

16. Coherent Comment Generation for Chinese Articles with a Graph-to-Sequence Model 

作者:Wei Li, Jingjing Xu, Yancheng He, Shengli Yan, Yunfang Wu, Xu Sun

论文:http://t.cn/AiuF26Ve;代码:http://t.cn/AinBeLPa

腾讯 at ACL 2019,对于传统的基于encoder-decoder的模型来说,新闻文档通常太长,这往往会导致一般性和不相关的评论。在本文中,我们提出使用一个Graph-to-Sequence的模型来生成评论,该模型将输入的新闻建模为一个主题交互图。通过将文章组织成图结构,我们的模型可以更好地理解文章的内部结构和主题之间的联系,这使得它能够更好地理解故事。

17. Dynamically Fused Graph Network for Multi-hop Reasoning

作者:Yunxuan Xiao, Yanru Qu, Lin Qiu, Hao Zhou, Lei Li, Weinan Zhang, Yong Yu

论文:http://t.cn/EKR7rcy;代码:http://t.cn/AiuF2k4G

今日头条 at ACL 2019,提出了动态融合图网络(Dynamically Fused Graph Network ,DFGN),这是一种解决需要多个分散证据和推理的问题的新方法。受人类逐步推理行为的启发,DFGN包含一个动态融合层,从给定查询中提到的实体开始,沿着文本动态构建的实体图进行探索,并逐步从给定文档中找到相关的支持实体。

18. Incorporating Syntactic and Semantic Information in Word Embeddings using Graph Convolutional Networks  

作者:Shikhar Vashishth, Manik Bhandari, Prateek Yadav, Piyush Rai, Chiranjib Bhattacharyya, Partha Talukdar

论文:http://t.cn/EKR7rcy;代码:http://t.cn/AiuF2k4G

微软 at ACL 2019,提出SynGCN来解决现有的词嵌入方法大多利用词的sequential context而没有利用词的syntactic context,SynGCN是一种灵活的基于图卷积的学习词嵌入的方法。我们还提出了SemGCN,这是一个有效的框架,用于整合不同的语义知识,以进一步增强所学习的单词表示。并开源了代码。

19. Conditional Random Field Enhanced Graph Convolutional Neural Networks

作者:Hongchang Gao; Jian Pei; Heng Huang

论文:http://t.cn/AiuFLy0D

京东 at KDD 2019,提出了一种新的CRF层用于解决图卷积神经网络的隐层中保存不同节点间的相似性信息问题。大量的实验结果验证了我们提出的CRF层更易于计算和优化,以及他的有效性。

(*本文为 AI科技大本营转载文章,联系原作者


精彩推荐


20 19 中国大数据技术大会(BDTC)再度来袭! 豪华主席阵容及百位技术专家齐聚, 15 场精选专题技术和行业论坛,超强干货+技术剖析+行业实践立体解读,深入解析热门技术在行业中的实践落地。

即日起,限量 5 折票开售,数量有限,扫码购买,先到先得!

640?wx_fmt=jpeg

推荐阅读

640?wx_fmt=png

你点的每个“在看”,我都认真当成了AI

  • 5
    点赞
  • 0
    评论
  • 18
    收藏
  • 一键三连
    一键三连
  • 扫一扫,分享海报

©️2021 CSDN 皮肤主题: 大白 设计师:CSDN官方博客 返回首页
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。

余额充值