极简笔记 Taskonomy: Disentangling Task Transfer Learning

极简笔记 Taskonomy: Disentangling Task Transfer Learning

论文地址：https://arxiv.org/abs/1804.08328

本文是CVPR2018 best paper，核心是提出了一种计算不同任务相似性的方法，以及利用不同任务相似性，在少量训练数据条件下进行多任务组合学习的分配方法。

文章的终极目标，是通过计算任务相似性，进一步计算选取（不是手动设计）针对目标任务的multi-task组合进行训练，并实现以少量数据尽可能接近fully supervised learning性能。

该计算流程主要分为4个步骤，在介绍算法流程之前再做一些背景和符号介绍。我们现在有一堆任务集合，可以划分为两个集合：源任务集合$\mathcal{S}=\{s_1,s_2,...\}$表示可以从零开始训练的任务（样本太少就不能从零训练了），和目标任务集合$\mathcal{T}=\{t_1,t_2,...\}$表示我们感兴趣的任务。两个集合是有重叠的。称$\mathcal{V}=\mathcal{S}+\mathcal{T}$为任务词典，也就是手头上所有任务的集合。对于输入图片$I$，它在任务$t$下的标签记作 f