Taskonomy: Disentangling Task Transfer Learning
项目主页:Taskonomy
这篇Paper是CVPR2018的best paper。主要关注于迁移学习方面的研究。以前我们经常会用ImageNet预训练好的模型来到新的数据上finetuing,可是我们从没有仔细度量过,在分类上预训练好的模型,应用到分割上,会比在检测问题上预训练好的模型应用到分割上是好是坏。作者在这里就度量了26个视觉学习任务之间的迁移关联性。通过大量的实验对比,可以发现任务之间的关联性,从而使得模型用更少的数据进行迁移学习并且依然可以工作的很好。
总体思路
为了度量任务之间的相关性,作者总体思路分为三个步骤:
作者把度量任务相关性的这个工具,也就是上面这个东西,叫做Taskonomy:即Task Taxonomy合并的简称。
(I): Task-specific Modeling。
首先对每一个任务进行从零学习,所用的模型架构Encorder-Decorder结构。总共26个任务,其Encorder的结构都是一致的ÿ