（10-5）大模型优化算法和技术：迁移学习

10.6  迁移学习

迁移学习是一种机器学习技术，通过将在一个任务上学到的知识应用于另一个相关任务上，以提高模型性能。通常，原始任务（源任务）的数据丰富，而目标任务的数据相对较少。

10.6.1  迁移学习的基本概念

迁移学习是一种机器学习方法，其核心思想是，通过利用先前学到的知识，可以加速新任务的学习过程，尤其是当新任务的数据相对较少时。下面是迁移学习的基本概念：

（1）源任务（Source Task）：在迁移学习中，已经完成训练的任务称为源任务。源任务通常有大量数据可供训练，使得模型能够学到有用的特征和知识。

（2）目标任务（Target Task）：需要通过迁移学习来改善性能的任务被称为目标任务。通常情况下，目标任务的数据量相对较少，或者与源任务有