本文针对知识图谱补全的小样本学习问题,提出了few-shot relation learning model (FSRL)。
few-short
Few-shot Learning 目的是在每种类别的样本数量较少的情况下学习出泛化能力强的模型,甚至可以识别新的类别。由于类别较少,会存在严重的过拟合问题,为了解决这个问题,小样本学习又可以分为如下两种方案:
数据增强或正则化
小样本的训练数据太少,那么我对原有的数据进行扩充不就可以了?数据增强在图像中有着非常广泛的应用,图像的翻转,平移都可以扩充训练数据集。而正则化则是在防止数据过拟合的操作中十分常见的,比如对图片使用一个自编码器,使用自编码器的损失作为额外的正则化项,可以有效防止过拟合。
Meta-learning(元学习)
元学习又可以叫做学习如何学习,这个更贴近人类的思维,其核心想法是学习一个先验知识,借助先验知识辅助小样本的训练。元学习能够学习出不存在于训练集中的类别!在 Meta-learning 中之前学习的 task 我们称为 meta-training task,我们遇到的新的 task 称为 meta-testing task(这部分在本文中也有体现)。
【博客】将Meta-learnin