0 参考文献
[1] Trouillon T, Dance C R, Welbl J, et al. Knowledge graph completion via complex tensor factorization[J]. arXiv preprint arXiv:1702.06879, 2017.
1 主要内容
Tag: medium importance
1.1 摘要
- 作者从嵌入模型切入,发现建模表现力与时间、空间复杂性之间存在不协调性,因此假设复值嵌入可以协调表达性和复杂性。
- 假设成立的结论是复值嵌入与酉对角化矩阵有关系。
- 如何论证呢?从理论证实方法成立,基于Hermitian点积
- 缺口Gap: 基于复杂嵌入的方法可以增加更多复杂的组合函数以增加它们的表现力;同时可扩展到大型数据集上测试性能。
1.2 模型关系
- 在复数域中的分解
共轭出现在复数的通常点积中,称为Hermitian内积或倍半线性形式。
推导过程:这里我是手动推导的
它这个公式涉及到多维Hermit内积
理论1: 如果 X 是酉可对角化的,其中 E,W ∈ Cn×n,W 是对角线且 E 是酉: - X 是对称的当且仅当 X 可正交对角化,且 E 和 W 是纯实数。
- 当且仅当 X 可酉对角化且 E 和 W 不是纯实数时,X 是正规且非对称的。
- X 不是正规的当且仅当 X 不是酉可对角化的。
上面的三种情况证明,对于任何X∈Rnxn,在复数域中存在一个酉对角化,其中实部等于X。
X=Re(EWE*)
理论2: 假设X∈Rnxn是一个实平方矩阵。那么存在一个正规矩阵Z∈Cnxn,如Re(Z)=X.
推论:
假设X∈Rnxn是一个实平方矩阵,那么存在E,W∈Cnxn,这里E是酉,W是对角化的,形如:
X=Re(EWE*)
应用于知识图谱补全设置,这里的E是实体的向量表示,对应于关系分数矩阵X的行和列。即E=es,E*=eo.对于一个给定的实体,它的主题嵌入向量是它的对象嵌入向量的复共轭。
它这里的s,o其实是对应两个实体,即subject and object.