PaperReading-KG2E 《Learning to Represent Knowledge Graphs with Gaussian Embedding》

最新推荐文章于 2024-03-12 14:29:15 发布
最新推荐文章于 2024-03-12 14:29:15 发布
阅读量2.4k 收藏 16
点赞数 1
分类专栏： paperreading
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_22235017/article/details/106876227
版权
本文详细解读了KG2E（Learning to represent knowledge graphs with gaussian embedding）论文，指出其在高斯空间中对实体和关系进行表征，以解决准确性问题。通过协方差矩阵表示实体和关系的准确性，采用非对称和对称的势能差损失函数，并提供了算法伪代码。作者鼓励对此有兴趣的研究者交流。
摘要由CSDN通过智能技术生成

本文时 KG2E，《Learning to represent knowledge graphs with gaussian embedding》的论文阅读笔记，如果有做相关工作的同学可以与我联系 zhaoliang19960421@outlook.com

背景

之前的TransX系列的论文都是在欧式空间中对实体和关系进行表征，然后利用基于空间中点相似度的计算方法来计算势能（通过关系翻译的头实体和真实尾实体之间的差距）

在论文中提出了之前的Trans系列论文没有关注到的点，在本文中称之为实体/关系的准确性（按照论文中的说法，实际上和TranSparse 提出了异构性、平衡性是一个意思，KG2E发表在CKIM2015,TranSparse发表在AAAI2016）

1
论文中有关于影响到准确性的点和TranSparse中的异构性和平衡性的定义是一样的。

对于实体的准确性高低的影响定义成了，一个实体/关系的准确性会影响到在三元组中确定性的置信度，论文中的举例就是在三元组 希拉里-配偶-克林顿，希拉里-国家是-美国，这两个三元组里，配偶这个关系在确定这个三元组中的置信度更好，因为通过配偶可以直接从克林顿到希拉里，但是通过国家是不能直接从美国到希拉里。这么说在这个三元组中配偶关系的确定性更高。

1

所以KG2E将这个问题考虑了进来，在高斯空间中对实体和关系进行表征，高斯空间里面的均值（也就是高斯空间中的概率最高点的位置）作为表征的结果。

用这个高斯空间的协方差矩阵（在实际计算中使用的协方差矩阵的对角向量）来表示准确性，使用协方差矩阵的意义在于通过计算不同特征之间的协方差来表示特征之间的关系，协方差矩阵（对角向量）之间相似度越大，那么在三元组中的相关性也就越大，置信度也就越高，准确度也就越高。

这个是我的个人理解，没有在论文上找到关于协方差和准确度的证明
如果您知道更好更准确的解释，麻烦您通过邮件和我沟通联系 
zhaoliang19960421@outlook.com

思路

基于以上的背景知识，KG2E没有在欧式空间中而是在高纬高斯空间中进行了计算，高纬高斯的均值作为position（也就是最终的结果）

和之前的Trans系列鲁文一样，也是计算的势能差值，最小化了全局的合叶损失函数。因为实体/关系是在高纬空间中进行表征的，无法利用欧式空间中的点之间的计算方法，所以在本文中计算从头实体通

最低0.47元/天 解锁文章
Large Scale Evolving Graphs with Burst Detection
weixin_41697507的博客
07-23 808
Large Scale Evolving Graphs with Burst Detection Abstract Analyzing large-scale evolving graphs are crucial for understanding the dynamic and evolutionary nature of social networks. Most existing works focus on discovering repeated and consistent temporal
【读论文】Learning the Kernel Matrix with Semi-Definite Programming.（2002）
Yang_Wanli的博客
03-14 1761
【读论文】Learning the Kernel Matrix with Semi-Definite Programming.（2002） 用半定编程学习核矩阵 Gert R. G. Lanckriet，Nello Cristianini，Peter L. Bartlett，Laurent El Ghaoui，Michael I. Jordan Conference: Machine Learning, Proceedings of the Nineteenth International Conferen
知识表示学习 (二) —— Gaussian space
weixin_43886056的博客
12-15 813
知识表示学习 (二) —— Gaussian space 文章目录知识表示学习 (二) —— Gaussian space一、KG2E(2015)二、TransG(2016)Chinese Restaurant Process(CRP)三、实验3.1 KG2E3.2 TransG   基于翻译的模型处理TransE及其变体的基于Point-Wise Space的模型，还有基于Gaussian space的模型，代表有KG2E、TransG等。 一、KG2E(2015) 论文链接：Learning to Re
KG2E 论文笔记
Jay98的博客
03-09 678
Learning to Represent Knowledge Graphs with Gaussian Embedding
PaperWeekly 第十期
weixin_34119545的博客
08-01 719
引 本期PaperWeekly的主题是基于翻译模型(Trans系列)的知识表示学习，主要用来解决知识表示和推理的问题。表示学习旨在将研究对象的语义信息表示为稠密低维实值向量，知识表示学习主要是面向知识图谱中的实体和关系进行表示学习。使用建模方法将实体和向量表示在低维稠密向量空间中，然后进行计算和推理。一般而言的应用任务为triplet classifi...
《Beta Embeddings for Multi-Hop Logical Reasoning in Knowledge Graphs》论文阅读笔记
weixin_44965520的博客
04-09 1524
《Beta Embeddings for Multi-Hop Logical Reasoning in Knowledge Graphs》论文阅读笔记 主要挑战贡献： KG上的推理挑战主要有两个：1.KG的规模很大，每跳一步候选答案集的候选答案数量便指数增长，因此通过跳转来寻找答案不现实；2.绝大多数的现实世界的KG根本不完全，缺少很多边（关系），因此跳转可能都跳不动，根本无法找到答案。 BetaE是第一个可以在大型异构知识图谱上处理**所有逻辑操作符号（包括存在、交、或、非，之前主要是无法处理逻辑“非”）
Gaussian Embedding
codeslogan
10-10 1307
文章目录1. 前驱知识transE2. 高斯分布3. 结论性概念4. KG2E5. Qualitative Analysis6. Link Prediction损失函数结论Metrichit@10mean rank7. Triplet Classificationevaluation protocolimplementresult参考资料 1. 前驱知识 transE TransE [4] represents a relation as a vector r indicating the semanti
Machine Learning with Large Datasets - Midterm Cheat Sheet
weixin_42148236的博客
10-09 421
Some questions might be True/False or multiple choice questions Some questions might have the same format as the questions in HW1 and in Quiz 1 (... some questions might be exactly the same ...) Wh...
​知识图谱：基于嵌入的模型（TransE 、TransH、TransR和TransD）
最新发布
sinat_41942180的博客
03-12 2889
论文提出了一种新的学习知识图谱在低维向量空间的嵌入（embedding）的方法——TransH，在克服了TransE的种种局限性（自反映射/一对多/多对一/多对多）的同时，继承了TransE的高效性。经过广泛的实验后，实验表明TransH的效果相较TransE有了很可观的提升，同时论文提出的减少错误负采样标签的Trick也被证明是有效的。但同时本论文同样存在自己的局限性，虽然TransH模型克服了TransE的部分局限性，
Relational inductive biases, deep learning, and graph networks（关系归纳偏差、深度学习和图形网络）
weixin_41697507的博客
07-15 5081
Relational inductive biases, deep learning, and graph networks Peter W. Battaglia1, Jessica B. Hamrick1, Victor Bapst1, Alvaro Sanchez-Gonzalez1, Vinicius Zambaldi1, Mateusz Malinowski1, Andrea Tacche...
特征骨骼提取识别视频中的动作
04-07
1、重新设计CSV数据、存储结构 2、全新特征结构，左右两边分别11组，共22组 //RHand RWrist RElbow RShoulder //dRHand dRWrist dRElbow dRShoulder //d(RHand - RWrist) d(RWrist - RElbow) d(RElbow - RShoulder) //共计11组 版本2.1.1
Distributed representation, Hyperbolic Space, Gaussian/Graph Embedding 详细介绍
Jay_Tang的博客
04-17 1337
往期文章链接汇总 Overview of various word representation and Embedding methods Local Representation v.s. Distributed Representation One-hot encoding is local representation and is good for local generalizati...
知识图谱嵌入经典方法（Trans系列、KG2E）
qq_44015059的博客
11-01 7356
1. 知识图谱嵌入 相关内容部分来自：https://zhuanlan.zhihu.com/p/147542008 2.1 知识表示的一些背景知识 通常，我们使用三元组(head, relation, tail)来表示知识。在这里，头和尾是实体。例如，(sky tree, location, Tokyo)。我们可以用独热向量来表示这个知识。但实体和关系太多，维度太大。当两个实体或关系很近时，独热向量无法捕捉相似度。受Wrod2Vec模型的启发，我们想用分布表示来表示实体和关系。 1.1.1 下游任务的应用
Learning to Represent Programs with Graphs
我爱写报告的博客
05-29 2613
题目： Learning to Represent Programs with Graphs 作者： Miltiadis Allamanis, Marc Brockschmidt, Mahmoud Khademi 单位： Microsoft Research, Simon Fraser University 出版： ICLR 2018 解决的问题 以往将深度学习与代码表达结合的工作更多只...
知识图谱-KGE-模型（一）：翻译距离模型【TransH、TransR、TransD、TranSparse、TransM、MianfoldE、TransF、KG2E、TransG、UM、SE】
u013250861的博客
11-24 1172
包括TransH、TransR、TransD、TranSparse、TransM、MianfoldE、TransF、TransA、KG2E、TransG、UM、SE模型等；
知识图谱嵌入KGE 之 高斯嵌入模型
Norstc的博客
09-23 1388
作者：AI科技评论 链接：https://zhuanlan.zhihu.com/p/80149671 来源：知乎 著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。 KG2E模型。He等人认为，知识库中的关系和实体的语义本身具有不确定性，而过去模型中都忽略这个因素。因此，He等人提出KG2E，使用高斯分布来表示实体和关系。其中高斯分布的均值表示的是实体或关系在语义空间中的中心位置，而高斯分布的协方差则表示该实体或关系的不确定度。 图3为KG2E模型示例，每个圆圈代表不同实体与关系的.
【论文解读】HyTE
BINGO's BLOG
07-05 2806
HyTE:基于超平面时间感知的知识图谱Embedding 一个人可以非常清贫、困顿、低微，但是不可以没有梦想。只要梦想一天，只要梦想存在一天，就可以改变自己的处境。 — 奥普拉·温弗瑞 Trans系列的主题是基于翻译模型的知识表示学习，主要用来解决知识表示和推理的问题。本文主要介绍TransE和数据集Wordnet、Freebase等。 表示学习：主要面向知识图谱中实体和关系进行表示学习，一般...
基于视觉的机器人抓取: 论文及代码(Vision-based Robotic Grasping: Papers and Codes)
热门推荐
dsoftware的博客
10-22 2万+
最近总结了基于视觉的机器人抓取的相关论文及代码，同步于github。根据抓取的类别，基于视觉的机器人抓取可以分为两类：2D平面抓取以及6D空间抓取。这个页面总结了近年来涉及到的各种各样的方法，其中大部分都使用了深度学习。总结的中文框架结构如下： 0.综述论文 1. 2D平面抓取 这类方法将抓取，用平面内旋转的矩形框表示； 1.1基于RGB或者RGB-D的方法 采用基于目标检测类的方法，直接得到2D...
Multi-objective Evolutionary Federated Learning
03-30
Multi-objective evolutionary federated learning (MEFL) is a machine learning approach that combines the principles of multi-objective optimization and federated learning. Multi-objective optimization ...
评论 18
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值
>