文献笔记1:《Knowledge Graph Completion via Complex Tensor Factorization》理论(上)

0 参考文献

[1] Trouillon T, Dance C R, Welbl J, et al. Knowledge graph completion via complex tensor factorization[J]. arXiv preprint arXiv:1702.06879, 2017.

1 主要内容

Tag: medium importance

1.1 摘要
  • 作者从嵌入模型切入,发现建模表现力与时间、空间复杂性之间存在不协调性,因此假设复值嵌入可以协调表达性和复杂性。
  • 假设成立的结论是复值嵌入与酉对角化矩阵有关系。
  • 如何论证呢?从理论证实方法成立,基于Hermitian点积
  • 缺口Gap: 基于复杂嵌入的方法可以增加更多复杂的组合函数以增加它们的表现力;同时可扩展到大型数据集上测试性能。
1.2 模型关系
  • 在复数域中的分解
    共轭出现在复数的通常点积中,称为Hermitian内积或倍半线性形式。
    在这里插入图片描述
    推导过程:这里我是手动推导的
    它这个公式涉及到多维Hermit内积
    在这里插入图片描述
    理论1: 如果 X 是酉可对角化的,其中 E,W ∈ Cn×n,W 是对角线且 E 是酉:
  • X 是对称的当且仅当 X 可正交对角化,且 E 和 W 是纯实数。
  • 当且仅当 X 可酉对角化且 E 和 W 不是纯实数时,X 是正规且非对称的。
  • X 不是正规的当且仅当 X 不是酉可对角化的。
    上面的三种情况证明,对于任何X∈Rnxn,在复数域中存在一个酉对角化,其中实部等于X。
    X=Re(EWE*)
    理论2: 假设X∈Rnxn是一个实平方矩阵。那么存在一个正规矩阵Z∈Cnxn,如Re(Z)=X.
    在这里插入图片描述
    推论:
    假设X∈Rnxn是一个实平方矩阵,那么存在E,W∈Cnxn,这里E是酉,W是对角化的,形如:
    X=Re(EWE*)
    应用于知识图谱补全设置,这里的E是实体的向量表示,对应于关系分数矩阵X的行和列。即E=es,E*=eo.对于一个给定的实体,它的主题嵌入向量是它的对象嵌入向量的复共轭。
    在这里插入图片描述
    它这里的s,o其实是对应两个实体,即subject and object.
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值