迁移学习相关概念区分

迁移学习

迁移学习是机器学习中的一种学习策略，它可以利用数据、任务或模型之间的相似性，实现一种从旧领域到新领域的知识迁移。
迁移学习包括基于实例的迁移学习、基于特征的迁移学习、基于模型的迁移学习、基于关系的迁移学习。
迁移学习的主要过程分为何时迁移、何处迁移和如何迁移的问题，其中目前研究者对于如何迁移关注度最高。何时迁移和何处迁移都属于可迁移性分析，更偏向理论分析，特别是何时迁移。

概念区分

• 多任务学习
  同迁移学习相似，多任务学习也是利用了不同任务之间的相似性和协同作用，但多任务学习更加强调多个任务协同作用，相互促进，共同提升。而迁移学习是侧重于目标域的预测效果。
• 领域自适应
  领域自适应是迁移学习的一种。它是指数据分布不同但任务标签相同，通过找到一个合适的特征空间能够使得目标域与源域的特征分布尽量相似，从而更便于源域到目标域的迁移。
• 元学习
  元学习相比于迁移学习是形而上学的尝试，它强调提升模型对一类事物的学习能力，而不仅仅是单独的某个任务。在模型对该类事物有较强的学习能力时，即使从未见过，也能够利用很少的样本实现对任务的认知。
• 自变量漂移
  自变量漂移是指源域和目标域的边缘概率分布不同，而迁移学习中还会存在条件分布或者联合分布概率不同的情况。