知识图谱
文章平均质量分 89
知识图谱前言技术分析,包含知识图谱表示学习,知识图谱预训练,动态知识图谱等
CHEONG_KG
这个作者很懒,什么都没留下…
展开
-
【GNN框架系列】DGL第二讲:使用Deep Graph Library实现GNN进行链接预测
作者:CHEONG公众号:AI机器学习与知识图谱研究方向:自然语言处理与知识图谱本文先简单概述GNN链接预测任务,接下来使用Deep Graph Library实现GNN进行链接预测,并对代码进行详细介绍,若需获取模型的完整代码,可关注公众号后回复:DGL第二讲完整代码一、GNN链接预测概述GNN链接预测任务,即预测图中两个节点之间的边是否存在。在Social Recommendation,Knowledge Graph Completion等应用中都需要进行链接预测。模型实现上是将..原创 2021-05-22 09:56:21 · 2515 阅读 · 3 评论 -
【GNN框架系列】DGL第一讲:使用Deep Graph Library实现GNN进行节点分类
作者:CHEONG公众号:AI机器学习与知识图谱研究方向:自然语言处理与知识图谱本文先简单概述GNN节点分类任务,然后详细介绍如何使用Deep Graph Library + Pytorch实现一个简单的两层GNN模型在Cora引文数据上实现节点分类任务。若需获取模型的完整代码,可关注公众号后回复:DGL第一讲完整代码一、GNN节点分类概述节点分类是图/图谱数据上常被采用的一个学习任务,既是用模型预测图中每个节点的类别。在GNN模型被提出之前,常用的模型如DeepWalk,Node2..原创 2021-05-22 09:50:25 · 2265 阅读 · 2 评论 -
【知识图谱系列】六篇2020年知识图谱预训练论文综述 | 30页汇报ppt免费获取 | GCC,GraphCL,DGI,InfoGraph等模型
作者:CHEONG公众号:AI机器学习与知识图谱研究方向:自然语言处理与知识图谱本文介绍六篇有关知识图谱预训练的优秀论文,大致上可分为两类,生成学习模型和对比学习模型。其中GPT-GNN模型是生成学习模型,模型灵感来源于自然语言处理中的GPT模型;GCC,GraphCL,DGI,InfoGraph和Multi-View这五篇属于对比学习模型。30页完整汇报ppt获取请关注公众号回复关键字:知识图谱预训练一、背景知识图谱预训练作用:图神经网络(GNNs)已被证明是建模图结构数据的强大..原创 2021-05-22 09:41:38 · 458 阅读 · 0 评论 -
【知识图谱系列】清华大学基于对比学习的图谱预训练模型GCC
作者:CHEONG公众号:AI机器学习与知识图谱研究方向:自然语言处理与知识图谱本文介绍一篇基于对比学习的图谱预训练模型GCC(KDD 2020),介绍GCC模型核心点和模型思路,完整汇报ppt获取请关注公众号回复关键字:GCC一、背景知识图谱预训练作用:图神经网络(GNNs)已被证明是建模图结构数据的强大工具。然而,训练GNN模型通常需要大量的特定任务的标记数据,而获取这些数据往往非常昂贵。利用自监督GNN模型对未标记图谱数据进行预训练是减少标记工作的一种有效方法,然后将预训练学习..原创 2021-05-22 09:29:09 · 1720 阅读 · 0 评论 -
【知识图谱系列】基于Randomly Perturb的图谱预训练模型GraphCL
作者:CHEONG公众号:AI机器学习与知识图谱研究方向:自然语言处理与知识图谱本文介绍基于Randomly Perturb互信息最大化的图谱预训练模型GraphCL(NIPS 2020),介绍模型核心点和模型思路,完整汇报ppt获取请关注公众号回复关键字:GraphCL一、背景知识图谱预训练作用:图神经网络(GNNs)已被证明是建模图结构数据的强大工具。然而,训练GNN模型通常需要大量的特定任务的标记数据,而获取这些数据往往非常昂贵。利用自监督GNN模型对未标记图谱数据进行预训练是..原创 2021-05-22 09:24:02 · 826 阅读 · 0 评论 -
【知识图谱系列】基于互信息最大化的图谱预训练模型DGI & InfoGraph
作者:CHEONG公众号:AI机器学习与知识图谱研究方向:自然语言处理与知识图谱本文介绍两篇基于互信息最大化的图谱预训练模型DGI(ICLR 2019)和InfoGraph(ICLR 2020),介绍模型核心点和模型思路,完整汇报ppt获取请关注公众号回复关键字:DGI & InfoGraph一、背景知识图谱预训练作用:图神经网络(GNNs)已被证明是建模图结构数据的强大工具。然而,训练GNN模型通常需要大量的特定任务的标记数据,而获取这些数据往往非常昂贵。利用自监督GNN模..原创 2021-05-22 09:19:56 · 1965 阅读 · 1 评论 -
【知识图谱系列】基于生成式的知识图谱预训练模型GPT-GNN
作者:CHEONG公众号:AI机器学习与知识图谱研究方向:自然语言处理与知识图谱本文介绍一篇基于生成式的图谱预训练模型GPT-GNN(KDD 2020),介绍GPT-GNN模型核心点和模型思路,完整汇报ppt获取请关注公众号回复关键字:GPT-GNN一、BackgroundBackground1、GPT/GPT2.0: GPT和GPT2.0是自然语言处理领域的生成式训练模型,预训练阶段通过大量预料进行无监督学习,预训练任务是单项语言模型,特征提取器用的是Transformer,预训练..原创 2021-05-22 08:48:45 · 1947 阅读 · 0 评论 -
【知识图谱系列】基于2D卷积的知识图谱嵌入
作者:CHEONG公众号:AI机器学习与知识图谱研究方向:自然语言处理与知识图谱本文给大家推荐两篇知识图谱表示学习相关的论文,这两篇论文都是将传统图像中的2D卷积操作直接用到知识图谱模型中,并且取得了不错的效果。完整汇报ppt获取请关注公众号回复关键字:2D卷积知识图谱嵌入一、BackgroundKnowledge 1: 二维卷积常用在计算机视觉、图像处理领域,用于处理图片数据;而一维卷积常用于序列模型,多适用于自然语言处理领域。知识图谱是非结构化数据,即不具有文本序列清晰的上下文,..原创 2021-05-21 15:50:50 · 585 阅读 · 0 评论 -
【知识图谱系列】基于实数或复数空间的知识图谱嵌入
作者:CHEONG公众号:AI机器学习与知识图谱研究方向:自然语言处理与知识图谱本文分享分享3篇有关知识图谱表示学习的优秀论文,简单介绍其核心思想,完整汇报ppt获取请关注公众号回复关键字:知识图谱嵌入一、Background本文给大家推荐三篇知识图谱表示学习相关的论文,这几篇论文都是针对三元组进行距离计算,对关系进行不同的定义。TransE模型在实数空间将关系看作从head node到tail node翻译操作,RotatE模型在复数空间将关系看作从head node到tail n..原创 2021-05-21 15:43:34 · 552 阅读 · 0 评论 -
【知识图谱系列】动态知识图谱表示学习综述 | 十篇优秀论文导读
作者:CHEONG公众号:AI机器学习与知识图谱研究方向:自然语言处理与知识图谱本文分享一篇动态知识图谱表示学习综述汇报ppt,分享10篇优秀论文,简单介绍其核心思想,完整汇报ppt获取请关注公众号回复关键字:动态知识图谱一、何为动态图谱首先知识图谱本质上就是一个语义网络,由节点Node和边Edge构成,每个Node表示现实世界中存在的实体Entity,而每条边表示实体与实体之间的关系。简单来说,知识图谱就是把所有不同种类的信息连接在一起而得到的关系网络,比如社交网络。由于这种关..原创 2021-05-21 15:29:34 · 6009 阅读 · 1 评论 -
【知识图谱系列】基于Random Propagation的深度图神经网络
作者:CHEONG公众号:AI机器学习与知识图谱研究方向:自然语言处理与知识图谱本文介绍一篇基于Random Propagation的深度图神经网络模型Grand(NIPS 2020),介绍Grand模型核心点和模型思路,完整汇报ppt获取请关注公众号回复关键字:Grand一、BackgroundKnowledge1、Over-fitting:在CNN卷积神经网络中,若CNN网络结构过于复杂过于Deep,且数据量有限的情况下,便会出现Over-fitting问题,Over-fitti..原创 2021-05-21 15:16:11 · 496 阅读 · 0 评论 -
【知识图谱系列】解耦Transformation和Propagation的深度图神经网络
作者:CHEONG公众号:AI机器学习与知识图谱研究方向:自然语言处理与知识图谱本文介绍一篇解耦合Transformation和Propagation操作的自适应深度图神经网络模型DAGNN(KDD 2020),介绍DAGNN模型核心点和模型思路,完整汇报ppt获取请关注公众号回复关键字:DAGNN一、Motivation1. Over-fitting: 在CNN卷积神经网络中,若CNN网络结构过于复杂过于Deep,且数据量有限的情况下,便会出现Over-fitting问题,Over-..原创 2021-05-21 15:04:20 · 950 阅读 · 0 评论 -
【知识图谱系列】自适应深度和广度图神经网络模型
作者:CHEONG公众号:AI机器学习与知识图谱研究方向:自然语言处理与知识图谱本文介绍一篇自适应深度和广度图神经网络表征学习模型Geniepath,介绍Geniepath模型核心出发点和模型思路,完整汇报ppt获取请关注公众号回复关键字:Geniepath一、MotivationPoint1: 在自然语言处理邻域中,一句话中词的上下文是很显然的,便可利用上下文对中心节点进行预测和表征。但在图数据中,节点node没有明确的上下文概念,因此在进行图表征学习时定义合适的上下文概念便至关重..原创 2021-05-21 14:50:51 · 1071 阅读 · 0 评论 -
【知识图谱系列】知识图谱多跳推理之强化学习
作者:CHEONG公众号:AI机器学习与知识图谱研究方向:自然语言处理与知识图谱本文分享一篇将强化学习应用在知识图谱多跳推理任务的汇报ppt,简要概述基本概念并推荐几篇近期的优秀论文,介绍其核心思想,完整汇报ppt获取请关注公众号回复关键字:知识图谱强化学习一、背景知识1、知识图谱:知识图谱是异质图Heterogeneous Graph,图中含有多种关系类型,一组事实(head entity, relation, tail entity)就代表图中的一个三元组;2、知识图谱推理:..原创 2021-05-21 14:39:52 · 4436 阅读 · 0 评论 -
【知识图谱系列】知识图谱的神经符号逻辑推理
作者:CHEONG公众号:AI机器学习与知识图谱研究方向:自然语言处理与知识图谱本文分享一篇有关知识图谱上的神经网络和符号逻辑推理汇报ppt,简要概述基本概念并推荐几篇近期的优秀论文,介绍其核心思想,完整汇报ppt获取请关注公众号回复关键字:知识图谱符号逻辑推理一、背景知识1、知识图谱:知识图谱是异质图Heterogeneous Graph,图中含有多种关系类型,一组事实(head entity, relation, tail entity)就代表图中的一个三元组;2、知识图谱推..原创 2021-05-21 14:32:52 · 1871 阅读 · 0 评论 -
【知识图谱系列】多关系异质知识图谱表示学习综述
作者:CHEONG公众号:AI机器学习与知识图谱研究方向:自然语言处理与知识图谱本文分享一篇多关系知识图谱表示学习汇报ppt,介绍近几年及2020新出的共七篇处理异质图的模型。先列出该汇报ppt中将要介绍的七篇论文:一、Motivation异质知识图谱研究的对象便是如何处理多关系知识图谱,多关系知识图谱中模型在做节点表征时便需要充分考虑到关系Relation,也就是边Edge对于实体表征的作用,因此异质知识图谱模型便会在做节点表征时加入Relation关系信息,那么如何合理充分结合n..原创 2021-05-21 14:16:59 · 969 阅读 · 0 评论 -
【知识图谱系列】知识图谱表示学习综述 | 近30篇优秀论文串讲
作者:CHEONG公众号:AI机器学习与知识图谱研究方向:自然语言处理与知识图谱本文分享一篇知识图谱表示学习汇报ppt,将知识图谱表示学习方法粗略分为四大类,涉及将近30篇优秀论文,只简单介绍其核心思想,完整汇报ppt获取请关注公众号回复关键字:知识图谱表示学习1、翻译距离模型:包括TransH、TransR、TransD、TranSparse、TransM、MianfoldE、TransF、TransA、KG2E、TransG、UM、SE模型等;2、语义匹配模型:包括RESCAL、Di..原创 2021-05-21 14:04:28 · 1574 阅读 · 0 评论 -
【知识图谱系列】PairNorm、DropEdge、DAGNN、Grand和GCNII五篇2020 Over-Smoothing论文综述
作者:CHEONG公众号:AI机器学习与知识图谱研究方向:自然语言处理与知识图谱本文分享2020年相关顶会对于DeepGNN Over-Smoothing的解法,共汇报五篇顶会论文,汇报完整版ppt可通过关注公众号【AI机器学习与知识图谱】后回复关键词:Over-Smoothing 来获得,供学习者使用!一、Motivation在计算机视觉中,模型CNN随着其层次加深可以学习到更深层次的特征信息,叠加64层或128层是十分正常的现象,且能较浅层取得更优的效果;图卷积神经网络GCNs是一..原创 2021-04-16 17:34:30 · 1261 阅读 · 0 评论 -
【知识图谱系列】GCNII模型探索DeepGNN的Over-Smoothing问题
作者:CHEONG公众号:AI机器学习与知识图谱研究方向:自然语言处理与知识图谱GCNII (ICML 2020) 分享,GCNII全称:Graph Convolutional Networks via Initial residual and Identity MappingGCNII汇报ppt版可通过关注公众号【AI机器学习与知识图谱】,回复关键词:GCNII 来获得,供学习者使用!可添加微信号【17865190919】进学习交流群,加好友时备注来自CSDN。原创不易,转载请告知并注明出处!.原创 2021-03-17 18:38:30 · 573 阅读 · 0 评论 -
【知识图谱系列】动态时序知识图谱EvolveGCN
作者:CHEONG公众号:AI机器学习与知识图谱研究方向:自然语言处理与知识图谱EvolveGCN (AAAI 2020) 分享EvolveGCN汇报ppt版可通过关注公众号【AI机器学习与知识图谱】,回复关键词:EvolveGCN 来获得,供学习者使用!可添加微信号【17865190919】进学习交流群,加好友时备注来自CSDN。原创不易,转载请告知并注明出处!一、背景知识在上一篇CompGCN中讲解了异质知识图谱在处理复杂实体间多关系类型的方案。本篇分享知识图谱落地时另一重要场景:动态.原创 2021-03-17 18:24:31 · 5536 阅读 · 1 评论 -
【知识图谱系列】多关系异质图神经网络CompGCN
作者:CHEONG公众号:AI机器学习与知识图谱研究方向:自然语言处理与知识图谱CompGCN (ICLR 2020)Composition-based Multi-Relational Graph Convolutional NetworksCompGCN论文汇报ppt可通过关注公众号【AI机器学习与知识图谱】,回复关键词:CompGCN 来获得,供学习者使用!可添加微信号【17865190919】进学习交流群,加好友时备注来自CSDN。原创不易,转载请告知并注明出处!一、基本概念:图.原创 2021-03-17 12:44:03 · 5277 阅读 · 0 评论