- 博客(23)
- 收藏
- 关注
原创 论文相关代码运行2.28&2.29&3.2
运行 开始菜单->Anaconda3—>Anaconda Navigator,点击左侧的Environments,可以看到tensorflow的环境已经创建好了。(4)安装cpu版本的TensorFlow这样cpu版本的tensorflow就安装好了。(5)测试tensorflow在Anaconda Prompt中启动tensorflow环境,并进入python环境。
2024-02-28 21:42:05
375
原创 2.17+2.19+2.21通过知识图谱和软规则联合建模进行知识推理-arXiv-2023
目前,KGC的方法可以分为两大类:1)一类方法使用显式推理规则;它通过归纳学习获得推理规则,然后演绎推理出新的事实。2)另一种方法是基于表示学习而不是直接建模规则,旨在学习实体和关系的分布式嵌入并在数值空间中进行泛化。
2024-02-17 21:57:41
1040
原创 融合语言模型中的拓扑上下文和逻辑规则以实现知识图谱补全-Information Fusion(中科院一区,CCF-A)-2023(暂停)
一些 KG 嵌入方法,如 TransE 和 DistMult ,将实体和关系嵌入到连续向量空间中。然后,通过计算他们三元组的分数来完成推理。同时,为了对 KGs 的拓扑进行建模,提出了一些图卷积网络(GCN)来融合实体的邻居信息,例如 R-GCN 和 CompGCN。尽管这两种方法取得了巨大的成功,但它们只利用了单独的三元组或邻居信息,而其算法忽略了实体和关系的内在语义。例如,这些方法都没有考虑到图1中的实体姚明的实际语义,即他是一个出生在中国的 NBA 球员,这导致信息建模和推理性能不足。
2023-12-04 09:09:20
1563
原创 联合学习结构增强语义表征和逻辑规则以补全知识图谱-WISA会议-2023
在现实中,知识图往往是不完整的,实体间的一些关系可能存在缺失的情况。知识图谱补全的目的就是通过利用以三元组表示的已知事实来有效的预测缺失的链接。以前的 KGC 模型大致可以分为三类:(1)基于结构的 KGE 模型,如 TransE 、ComplEx、RotatE,通过学习实体和关系的嵌入对三元组的可扩展性进行评分。(通过学习实体和关系的嵌入,可以获得它们在向量空间中的表示。这些表示可以用于评估三元组的可扩展性。
2023-11-22 09:20:52
298
原创 融合多源信息的知识图谱嵌入
多源信息提供了知识图谱中三元组事实以外的信息,能够帮助构建更加精准的知识表示,仅使用事实进行知识图谱嵌入的方法忽略了蕴含在多源信息中的丰富知识,例如:实体类别信息、文本描述信息、关系路径等。充分利用这些多源信息对于降低实体与关系之间的模糊程度,进而提高推理预测的准确度至关重要。实体类别包含实体结构化的先验知识,这些先验知识是由人工构建的,能够在知识图谱三元组的结构信息上提供准确的辅助信息,加深模型对三元组的理解。
2023-11-01 10:41:07
273
1
原创 知识表示模型现状-符号表示相关
因此,复杂的概念可以建立在定义中,而不是简单的概念。语义网的概念是由万维网的发明者 Tim Berners Lee 在 1996年提出的,目标是将当前的信息转换成机器友好的语言,语义网并不是一个独立的网络,而是当前网络的扩展,它赋予信息明确的含义,使得信息共享和重用成为可能,计算机和人们能够更好地协同工作。(3)与OWL DL相比,使用OWL Full时,推理支持的可预测性较差,因为目前还没有完全的OWL Full的实现,因此对于复杂的本体和推理任务,使用OWL Full可能会导致不可预测的结果。
2023-10-31 20:26:18
88
原创 TranS:基于过渡的知识图谱嵌入与合成关系表示
知识图谱在许多领域发挥着重要作用,包括知识问答、语义解析、信息检索等。平移距离、语义匹配和神经网络。因为基于过渡的KGE方法,如TransE简单有效,这一系列模型在学术界和工业界都越来越受欢迎。然而,TransE不适合处理像一对多/多对一/多对多这样的复杂关系。尽管以前的模型,如TransH/R/D已经考虑了相关问题,它们仍然关注实体部分的实体-关系投影或交互,并延续了TransE模式。
2023-10-25 11:49:03
84
1
原创 10.11 Overleaf & Latex
总体的结构在编译后的论文中显示罗马数字1,2, 但是在左边只需要开始一个section就可以了。如果要另起一行的话,就是中间空一行,然后写第二段。公式:可以用LaTeX在线:吴文中数学公式编辑器。它的子部分就是subsection。表格:可以用在线表格。
2023-10-11 22:49:00
528
原创 9.4 知识图谱嵌入方法的研究-知网-曾国燕-电子科技大学.2022-链接预测定义及常用数据集
例如为了找到姚明的另一个搭档,需要链接预测(姚明,搭档,?),就可以将知识图谱中的每个实体都放在尾实体的位置上构成不同的三元组,并且将这些三元组放入相应的知识图谱嵌入模型,通过评分函数,计算不同实体作为该三元组的尾实体的得分,也就是该三元组的合理性,而得分最高的实体会被视为链接预测的结果。图中有三个已知三元组,分别是(姚明,父亲,姚志源)、(姚明,搭档,王治郅)、(姚明,副董事长,CBA),它们都与实体姚明有关。例如,测试集经常包含三元组,例如(s,下位词,o),而训练集则包含其倒数(o,上位词,s)。
2023-09-04 22:23:00
243
1
原创 9.1 知识图谱嵌入方法的研究-知网-曾国燕-电子科技大学.2022-知识图谱嵌入的主要方法
比如(姚明,搭档,王治郅)和(姚明,搭档,刘炜)两个三元组,当头实体h为“姚明”和关系r为“搭档”相同时,TransE 认为这两个尾实体“王治郅”和“刘炜”具有相同的嵌入向量,但实际情况并非如此。TransR 模型的主要思想是:将实体和关系嵌入到不同的语义空间,然后在关系的嵌入空间中建立从头实体到尾实体的翻译关系。针对 TransE 存在的问题,TransH 模型提出一个新的办法,即是将头、尾实体都映射到关系的平面中,然后在关系的超平面上以关系向量为平移向量找存在特定关系的头、尾实体。
2023-09-01 23:03:40
71
1
原创 8.28 知识图谱嵌入方法的研究-知网-曾国燕-电子科技大学.2022-知识图谱嵌入的主要方法
在ComplEx模型中,对于相同的实体,作为头实体和尾实体的嵌入是复共轭,这将非对称性引入到双线性分解中,从而使ComplEx不仅能够学习到对称关系,还能很好地捕获到潜在的非对称关系。该方法通过对三元组中的二元关系建模,能有效地提取逻辑规则,并能从双线性的方式中学习到实体和关系的表示向量,然后利用学习到的语义信息去挖掘潜在的逻辑规则。NTN模型中,将实体表示为向量,关系通过张量参数定义。在双线性方法类中,首先会在向量空间中计算实体和关系,以此获得实体和关系的潜在语义的可信度,然后学习实体和关系的表示向量。
2023-08-28 23:31:11
217
1
原创 8.26 知识图谱嵌入方法的研究-知网-曾国燕-电子科技大学.2022-知识图谱嵌入的主要模型的缺陷
该模型的主要思想是:通过关系r的两个投影矩阵分别将头实体向量和尾实体向量投影到r的表示空间中,然后在这个投影空间里计算头实体和尾实体的距离。得分越小,说明头实体和尾实体在该关系空间中的距离越小,也就说明这对实体存在这种关系的可能性越大。虽然SLM模型通过非线性操作将头、尾实体语义联系起来,但模型使用的非线性操作只能够刻画两个实体与关系之间微弱的语义关系。然而,该模型有一个明显缺陷:在同一个三元组中采用不同的关系矩阵投影头、尾实体,导致映射后的头实体与尾实体协同性差。
2023-08-26 18:37:21
62
原创 8.25 知识图谱嵌入方法的研究-知网-曾国燕-电子科技大学.2022
该方法在关系嵌入的空间向量中,将实体的成分语义信息包含进去,这使得模型既能够捕获实体和关系的成分语义交互信息,同时保留了张量分解简单性和效率性的优势。实体嵌入的语义空间和关系的表示空间相互独立时,它们具有各自独特的特征语义,并不能表达实体和关系的融合语义。将知识图谱中以节点表示的实体的语义和以边表示的关系类型的语义映射到向量空间中,由此实体和关系就可以用连续向量表示,也称之为。第一,经典的知识图谱嵌入模型,不管是基于张量分解的高效模型,还是翻译系列的简单模型,它们均忽略了实体的成分语义信息。
2023-08-25 23:07:21
72
1
原创 8.22 知识图谱嵌入技术研究综述-知网-张天成、田雪、孙相会等-软件学报.2023,34(01)-KGE面临的挑战
One-shot/Zero-shot 学习的目的是从一个只有少量实例的类或一个从未见过的类的实例中学习,在知识图谱表示中,一个实际的问题是低频实体和关系的学习比高频实体和关系的学习更差。● 知识类型:不同的 KGE 方法在处理 1-1,1-N,N-1 和 N-N 关系时具有不同的性能,这表明针对不同类型的知识或关系需要设计不同的 KGE 框架。然而,现有的 KGE 方法简单地将所有关系分为 1-1,1-N,N-1 和 N-N 关系,不能有效地描述知识的特征。这些不同类型的关系应该采用不同的方式建模。
2023-08-22 20:36:16
59
1
原创 8.21 知识图谱嵌入技术研究综述-知网-张天成、田雪、孙相会等-软件学报.2023,34(01)-动态知识图谱嵌入
为了利用这种结构性质学习更有效的表示方法,Nickel 等人提出在双曲空间 (具有常负曲率的空间) 中计算嵌入,这是因为双曲空间天然适合于建模层次结构,或者也可以认为,双曲空间是树的连续版本,相比欧式空间 (零曲率空间) 可以更准确、更简洁的表示分层数据。3 大类知识图谱嵌入方法,即:基于距离的模型,语义匹配模型与最新的 KGE 模型。本节归纳总结了最新的知识图谱嵌入方法,由卷积神经网络模型,旋转模型,双曲几何模型和其他模型 4 个部分组成,表 4 对相关的最新知识图谱嵌入研究方法进行了总结。
2023-08-21 20:42:33
387
1
原创 8.16+8.18 知识图谱嵌入技术研究综述-知网-张天成、田雪、孙相会等-软件学报.2023,34(01)-最新的知识图谱嵌入模型
对于每个三元组(h, r, t),对应的 k 维嵌入三元组(h, r, t)表示为一个 k × 3 的输入矩阵,将该输入矩阵馈送到卷积层,在卷积层中使用对应形状的不同过滤器提取嵌入三元组的相同维度条目之间的全局关系。这些过滤器在输入矩阵的每一行上重复操作,以产生不同的特征映射。ConvE 是用于链接预测最简单的多层卷积体系结构,可以通过多层非线性特征学习表达语义信息,并且该模型具有很高的参数利用率,可以在参数分别减少了 8×和 17×的前提下,得到与DistMult和 R-GCN模型相同的性能。
2023-08-16 21:02:27
298
1
原创 8.15 知识图谱嵌入技术研究综述-知网-张天成、田雪、孙相会等-软件学报.2023,34(01)-语义匹配模型
在 SME 中,实体和关系类型共享相同的表示形式,将定义多关系图的所有符号嵌入到同一空间中 (等价于删除实体和关系类型之间通常存在的概念差异),并且定义了若干投影矩阵 (用来刻画实体与关系的内在联系)。然而,尽管 NTN 中的张量运算可以更明确地描述实体与关系之间的复杂关系语义关联,但 NTN 的高复杂性限制了其在大规模稀疏知识图谱上的应用。基于相似性评分函数的语义匹配模型,并按照对实体和关系的交互进行编码的不同模型体系结构进行划分,包括线性/双线性模型,矩阵分解模型,神经网络模型 3 个部分。
2023-08-15 21:50:37
286
原创 8.13 超平面与法向量
在空间里,向量可以看做是一个点(以原点为起始点的向量),对于分离超平面方程里的向量x,就可以看做由坐标原点到超平面任意“点”的向量,法向量的大小是坐标原点到分离超平面的距离,垂直于分离超平面,方向由分离超平面决定。那么,它的值正得越大,代表点在平面的正向且与平面的距离越远。反之,它的值负得越大,代表点在平面的反向且与平面的距离越远。一个超平面可以将它所在的空间分为两半,它的法向量指向的那一半对应的一面是它的正面,另一面则是它的反面。为平面的法向量,决定了超平面的方向。,其中,w与x都是d维列向量,
2023-08-13 18:28:44
305
1
原创 8.7+8.8+8.14 知识图谱嵌入技术研究综述-知网-张天成、田雪、孙相会等-软件学报.2023,34(01)-复杂关系建模
按照知识库中关系两端连接实体的数目,可以将关系划分为 1-1,1-N,N-1 和 N-N 这 4 种类型,例如 1-N 类型关系指的是一个头实体会平均对应多个尾实体。研究发现,各种知识获取算法在处理 4 种类型关系时的性能差异较大,例如:TransE 在处理复杂关系建模时性能降低,这与其模型的假设有密切关系。如图所示,TransH 将实体建模为向量,将每个关系 r 建模为法向量为Wr的关系特定超平面上的向量。通过引入投影到关系特定超平面的机制,TransH使得每个实体在不同的关系中具有不同的表示形式。
2023-08-07 23:03:47
114
1
原创 8.2 TransE_pytoch.py(2)
(1)torch.sum(input, dim, keepdim=False, *, dtype=None):返回给定维度dim中输入张量的每一行的总和。如果keepdim为True,则输出张量的大小与输入的大小相同,但维度dim的大小为1。autograd包是PyTorch中神经网络的核心,它可以为基于tensor的所有操作提供自动微分的功能,这是一个逐个运行的框架,意味着反向传播是根据你的代码来运行的,并且每一次的迭代运行都可能不同。返回输入张量给定维度上每行的最大值,并同时返回每个最大值的位置索引。
2023-07-31 21:50:59
92
原创 7.27 TransE_pytoch.py(1)
例如,在一个知识图谱中有10个实体和n个关系,其中一个关系2个头实体对应5个尾实体,则tph=2.5,hpt=0.4。替换头实体的负样本正确概率为。计算头实体(尾实体)对应的尾实体(头实体)数量tph(hpt),在构建负样本时会用到。因此构建正确负样本时就要替换头实体。,替换尾实体的负样本正确概率为。
2023-07-27 20:46:32
48
原创 7.24知识图谱嵌入:transE代码详解
在机器学习领域中,不同评价指标(即特征向量中的不同特征就是所述的不同评价指标)往往具有不同的量纲和量纲单位,这样的情况会影响到数据分析的结果,简而言之,归一化的目的就是使得预处理的数据被限定在一定的范围内(比如[0,1]或者[-1,1]),从而消除奇异样本数据导致的不良影响。这里不用关注实体的表现形式是什么样子的,不论是utf-8编码的样子,还是我们平时见到的直接可以看到是什么实体的样子,都是一样的只是一个代号,只要能代表那个实体就行,最后都是转化成对应数字的形式。
2023-07-19 22:22:37
1534
3
原创 7.16 知识图谱嵌入技术研究综述-知网-张天成、田雪、孙相会等-软件学报.2023,34(01)-使用事实进行知识图谱嵌入
是将知识图谱中的实体和关系嵌入到连续的向量空间中,用来简化操作,同时保留KG的固有结构。首先对现有的知识图谱嵌入技术进行全面回顾,不仅包括使用KG中观察到的事实进行嵌入的技术,还包括添加时间维度的动态KG嵌入方法,以及融合多源信息的KG嵌入技术。基于距离的模型使用基于距离的评分函数, 即通过计算实体之间的距离来衡量事实的合理性, 在这种情况下, 翻译原理h+r≈t被广泛使用. 也就是说, 基于距离的模型通常由关系执行翻译后, 根据两个实体之间的距离来度 量一个事实的合理性.
2023-07-16 21:44:25
91
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人