元学习在图像分类任务上取得了长足的进展,但是在自然语言处理领域却鲜有研究。本文对MAML进行了改编,并将改编后的方法应用于自然语言处理领域的关系分类任务。
贡献点
- 提出了应用于自然语言领域中关系分类任务的元学习方法。
1 引言
关系分类是指判别出两个实体之间存在的关系,它的下游有许多人工智能应用,包括问答,知识库和网络搜索。长期以来进行关系分类任务上的方法都依赖于大量的标记数据,但是很多时候标记数据都是很昂贵的。但是本文提出的元学习关系分类方法仅需要少量的标记数据就能达到不错的预测性能。
2 方法
如果我们考虑将每个关系 R i R_i Ri视作一个任务,将 p ( R ) p(R) p(R)看成任务的分布。一种关分类方法是以多任务的形式训练一个多分类的分类器。这种方法的优化目标如下:
θ ∗ = min θ ∑ R i ∼ p