TransE模型学习笔记

已于 2022-07-09 21:26:26 修改
阅读量4.4k 收藏 39
点赞数 9
分类专栏： # 知识图谱 # NLP 文章标签： 学习
于 2022-07-09 00:15:48 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43734080/article/details/125685215
版权
本文深入介绍了TransE模型，这是一种将实体和关系嵌入到低维向量空间中进行计算的建模方法，旨在解决多关系数据的建模问题。TransE通过学习实体和关系的向量表示，利用基于“能量”的计算方法，实现了知识图谱的表示学习。在实验部分，文章展示了TransE在链接预测任务上的优秀表现，并与其他方法进行了对比。此外，还详细阐述了算法的实现细节，包括数据集格式、参数设置、损失函数理解等。
摘要由CSDN通过智能技术生成

目录

一、知识表示学习的引入

二、论文摘要

三、方法介绍

（一）建模多关系数据

（二）关系嵌入到向量空间中的翻译

四、TransE模型

（一）学习实体和关系的低维嵌入向量

（二）基于“能量”的计算方法

五、算法流程

（一）算法流程图 

（二）算法伪代码

六、实验

（一）数据集

1. Freebase数据集格式

2. TranE训练数据集格式

 （二）算法实现细节

1. 输入输出

2. L2范式归一化

3. 使用deepcopy函数更新向量

4. 模型参数更新

5. 训练并更新向量的细节

6. 测试环节，将测试集分为Raw及Filter两种情况

7. loss函数的理解

（四）实验设置

1. 评估指标

2. 测试方式

3. 参数设置

4. 构建负样本

（五）链接预测

（六）详细结果

（七）学习预测新关系

七、结论

参考文档

今天分享的是NIPS 2013的一篇经典论文《Translating Embeddings for Modeling Multi-relational Data》

原文连接：https://proceedings.neurips.cc/paper/2013/file/1cecc7a77928ca8133fa24680a88d2f9-Paper.pdf

前言：知识图谱又称为科学知识图谱，在图书情报界称为知识域可视化，或知识领域映射地图，用来显示知识发展进程与结构关系的一系列各种不同的图形，用可视化技术描述知识资源及载体，挖掘、分析、构建、绘制和显示知识及他们互相之

了解本专栏 订阅专栏 解锁全文 超级会员免费看
Dr.Petrichor
关注
专栏目录
订阅专栏
TransE算法（Translating Embedding）
u011274209的专栏
03-27 6万+
介绍TransE算法（Translating Embedding）
TransE模型：知识图谱的经典表示学习方法
热门推荐
ChihkAnchor的博客
10-24 2万+
传统的知识图谱表示方法是采用OWL、RDF等本体语言进行描述；随着深度学习的发展与应用，我们期望采用一种更为简单的方式表示，那就是【向量】，采用向量形式可以方便我们进行之后的各种工作，比如：推理，所以，我们现在的目标就是把每条简单的三元组< subject, relation, object > 编码为一个低维分布式向量。（有关【分布式表示】的概念请大家自行百度） paper：Tra...
Freebase数据集的处理和使用
最新发布
m0_64206188的博客
07-01 529
Freebase数据集的处理和使用
小黑笔记:transe模型
qq_37418807的博客
02-04 2930
1.数据集准备 import openke from openke.data import TrainDataLoader,TestDataLoader train_dataloader = TrainDataLoader( in_path = "./benchmarks/FB15K237_tiny/", nbatches = 100, threads = 8, # 负采样 sampling_mode = 'normal', # bern构建负样本方式
知识图谱——TransE模型原理
hei653779919的博客
02-12 1万+
知识图谱——TransE模型原理 1 TransE模型介绍 1.1 TransE模型引入 在我们之前的文章中，提到了知识图谱补全任务的前提任务是知识表示学习，在知识表示学习中，最为经典的模型就是TransE模型，TransE模型的核心作用就是将知识图谱中的三元组翻译成embedding向量。 1.2 TransE模型思想 为了后面便于表示，我们先设定一些符号 h 表示知识图谱中的头实体的向量。 ...
【TransE模型】基于分布式表示推理
Minor0218的博客
08-13 1268
使用FB15k数据集实现TransE模型
知识图谱补全技术-TransE篇
weixin_47482014的博客
05-20 2693
TransE通过将知识图谱中的实体和关系嵌入到低维向量空间，并使用简单的线性变换来表示实体之间的关系，提供了一种有效的方法来处理知识图谱嵌入任务。虽然它在处理复杂关系上存在一定的局限性，但其简单性和高效性使其成为知识图谱嵌入的一个重要基准方法。TransE模型通过将知识图谱中的实体和关系嵌入到低维向量空间，并使用简单的线性变换来表示实体之间的关系，提供了一种有效的知识图谱嵌入方法。虽然在处理复杂关系方面存在一定局限，但其简单性和高效性使其成为知识图谱嵌入的一个重要基准方法。
TransE 论文笔记
Jay98的博客
03-03 1207
Translating Embeddings for Modeling Multi-relational Data
OpenKE-TransE代码阅读
qq_44960910的博客
09-08 924
OpenKE-TransE代码阅读
自然语言处理(NLP)-知识图谱：知识表示学习（知识图嵌入）----＞ 知识推理【TransE系列模型】【第三方库：OpenKE（清华大学开源）】
u013250861的博客
04-02 4723
参考资料： 知识图谱中的关系推理
TranSE算法实现及测试
04-26
这是我自己的代码，主要用来存储，若能帮到其他人，我也很愿意。
TransE系列源码
12-29
TranE是一篇Bordes等人2013年发表在NIPS上的文章提出的算法。它的提出，是为了解决多关系数据（multi-relational data）的处理问题。我们现在有很多很多的知识库数据knowledge bases (KBs)，比如Freebase、 Google Knowledge Graph 、 GeneOntology等等。 TransE的直观含义，就是TransE基于实体和关系的分布式向量表示，将每个三元组实例（head，relation，tail）中的关系relation看做从实体head到实体tail的翻译（其实我一直很纳闷为什么叫做translating，其实就是向量相加），通过不断调整h、r和t（head、relation和tail的向量），使（h + r） 尽可能与 t 相等，即 h + r = t。 以前有很多种训练三元组的方法，但是参数过多，以至于模型过于复杂难以理解（作者表达的意思就是，我们的工作效果和你们一样，但我们的简单易扩展）。（ps：作者以前也做过类似的工作，叫做Structured Embeddings，简称SE，只是将实体转为向量，关系是一个矩阵，利用矩阵的不可逆性反映关系的不可逆性。距离表达公式是1-norm）。
"基于transformer的深度学习模型自动识别自杀笔记
互联网干预25（2021）100422使用基于transformer的深度学习模型自动识别自杀笔记张天琳a，*，Annika M. Schoene a，Sophia Ananiadou a，ba英国曼彻斯特曼彻斯特大学计算机科学系，国家文本挖掘中心b英国伦敦艾伦...
TransE模型的简单介绍&TransE模型的python代码实现
qq_40177015的博客
04-03 5294
模型介绍 TransE模型的基本思想是使head向量和relation向量的和尽可能靠近tail向量。这里我们用L1或L2范数来衡量它们的靠近程度。 损失函数是使用了负抽样的max-margin函数。 L(y, y’) = max(0, margin - y + y’) y是正样本的得分，y'是负样本的得分。然后使损失函数值最小化，当这两个分数之间的差距大于margin的时候就可以了(我们会设置这个值，通常是1)。 由于我们使用距离来表示得分，所以我们在公式中加上一个减号，知识表示的损失函数为： 其中，
【知识图谱】——8种Trans模型
汤庆
03-23 2万+
知识图谱对实体和它们丰富的关系的结构化信息编码。虽然一个典型的知识图谱可能得到数百万的实体和数以亿计的关系事实，但离补全还很远。知识图谱补全旨在通过现有知识图谱来预测实体之间的关系。知识图谱补全能够找到新的关系事实，这是对从纯文本进行关系抽取的重要补充。知识图谱扫盲：https://www.jiqizhixin.com/articles/2018-06-20-4 在...
知识图谱-知识表示-单模态知识表示模型TransE模型及多模态知识表示模型IKRL
weixin_41234101的博客
06-28 4055
知识表示的目标是将人所了解的知识表示成为计算机也能理解的方式，以帮助处理下游任务。TransE模型的出现掀起了将实体和关系以三元组形式嵌入到低维空间的热潮，但TransE模型仅表示了三元组形式的知识。多模态知识表示将其他形式的知识与三元组形式的知识相结合，以产生更加精确的知识表示。本文将介绍单模态知识表示模型TransE，并基于TransE模型介绍多模态知识表示模型IKRL，使用多模态数据集WN9-IMG实现IKRL，并对IKRL算法进行了评估，认为IKRL模型的效果高于一般的单模态知识表示模型。
知识推理——TransE（知识表示、知识嵌入）
missyoudaisy的博客
05-12 1310
知识图谱嵌入/表示方法 TransE
TransE论文第2节：翻译模型
NULL
04-13 5588
给定一个由三元组(h, l, t)组成的训练集S，其中h，t属于E，关系属于L，我们的模型学习实体和关系的向量嵌入。嵌入的取值属于（k是模型的一个参数），用相同的大写字母表示。
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Dr.Petrichor

作者逐个题目分析的噢

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值