笔记：全监督，自监督，半监督，弱监督，无监督的关系和区别

1.全监督学习（supervised learning）
        训练数据都有完整和准确的标签，模型通过学习输入数据和标签之间的映射关系来完成特定的任务，例如分类、回归等。全监督学习需要大量的人工标注，但是可以获得较高的性能。
2.无监督学习（unsupervised learning）
        训练数据没有任何标签，模型通过学习数据本身的分布或结构来发现一些隐含的模式或特征，例如聚类、降维等。无监督学习不需要人工标注，但是难以评估效果和应用于具体任务。
3.半监督学习（semi-supervised learning）
        训练数据既有一部分有标签的数据，也有一部分没有标签的数据，模型通过结合两种数据来提高学习性能，例如利用有标签数据训练一个教师模型，然后用教师模型给无标签数据生成伪标签，再用伪标签训练一个学生模型。半监督学习可以降低人工标注成本，同时利用大量的无标签数据。
4.弱监督学习（weakly supervised learning）
        训练数据有一些不完整、不确切或不准确的标签，模型通过学习这些低质量的标签来完成一个更困难的任务，例如利用图片级别的分类标签来做目标检测或分割。弱监督学习可以克服标注难度高或噪声大的问题，提高模型泛化能力。
5.自监督学习（self-supervised learning）
        训练数据没有外部给定的标签，但是模型可以通过一些辅助任务（pretext）来自动生成一些内部的标签，然后用这些内部标签来训练模型，从而学习到数据的内在表示（representation），再用这些表示来做下游任务（downstream），例如在图像上做旋转预测或遮挡恢复等辅助任务，然后用得到的特征向量来做分类或检测等下游任务。自监督学习可以从无标签数据中挖掘有用的信息，提高模型表征能力。