TuckER 论文笔记

Ivana Balazevic, Carl Allen, Timothy M.Hospedales

- Introduction

TuckERuckER是一个相对简单但功能强大的线性模型，它基于知识图三元组二元张量表示的TuckER分解，证明了TuckER是一个完全表达模型，推导了其嵌入维数的充分边界，并证明了前面介绍的几个线性模型可以被视为TuckER的特例。
贡献如下：

1. 提出了一种新的知识图链接预测线性模型TuckER，该模型简单，表达性强，在所有标准数据集上都能获得最先进的结果;
2. 证明TuckER是充分表达的，并推导出充分表达的嵌入维度的界限;
3. 展示了TuckER如何将几个先前提出的张量因子分解方法纳入链接预测。

- Background

尽管取得了非常好的性能，深层非线性模型的基本问题是，它们是不透明的，理解不足，与更有数学原则和被广泛研究的张量分解模型相反。
它可以被认为是高阶奇异值分解的一种形式(SVD)。在TrukER例子中，矩阵的行包含实体和关系嵌入，而核心张量的条目决定了它们之间的相互作用级别。假设头尾实体嵌入矩阵是等价的，即我们不区分实体的嵌入，取决于它是作为一个特定的三元组中的头实体还是尾实体出现。

- Algorithm

Truker是将一个张量分解成一组矩阵和一个核心张量，以三维张量为例：