【学习笔记--短文】监督学习 ~ Semi / Self / Un - supervised learning ~ Differ

目录

1. 半监督学习（Semi-Supervised Learning）：

应用场景：

方法：

2. 自监督学习（Self-Supervised Learning）：

应用场景：

方法：

3. 无监督学习（Unsupervised Learning）：

应用场景：

方法：

总结

---

半监督学习、自监督学习和无监督学习都是机器学习中的重要概念，它们描述了不同类型的学习范式，具有不同的应用和方法。下面我们将详细讨论每个学习范式：

1. 半监督学习（Semi-Supervised Learning）：

        半监督学习是介于监督学习和无监督学习之间的一种学习方式。在半监督学习中，数据集通常包含带有标签（已知类别或目标）和不带标签的数据。与监督学习不同，它不仅使用带标签的数据来训练模型，还试图利用不带标签的数据来提高模型的性能。

应用场景：

        半监督学习通常应用于数据标注成本高昂或标签稀缺的情况，例如，图像分类中的大规模图像数据，其中只有一小部分图像被手动标记。

方法：

        半监督学习方法可以分为传统方法和深度学习方法：
        传统方法包括自训练、生成模型等。
        深度学习方法通常使用半监督损失函数，以最大程度地利用未标记数据的信息来训练深度神经网络。

2. 自监督学习（Self-Supervised Learning）：

        自监督学习是一种无监督学习的子集，其中模型通过自动生成目标标签或任务来学习。这些目标标签是从输入数据中自动生成的，而不是由人工标记的。自监督学习任务通常包括将输入数据转化为输出，然后将这一转化作为模型训练的监督信号。

应用场景：

        自监督学习可应用于许多领域，如自然语言处理（例如，通过掩码预测缺失的单词）、计算机视觉（例如，通过图像旋转预测旋转角度）、自动编码器等。

方法：

        自监督学习的方法涵盖了多种技术，包括对比学习（Contrastive Learning）、生成模型（Generative Models）、自编码器（Autoencoders）等。
        这些方法的共同特点是利用数据本身来创建监督信号，而无需外部标签。

3. 无监督学习（Unsupervised Learning）：

        无监督学习是一种机器学习范式，其中模型从未标记的数据中自动学习模式和结构。在无监督学习中，没有目标标签或任务来指导学习过程，模型必须自己发现数据中的潜在结构。

应用场景：

        无监督学习常用于聚类、降维、生成模型等任务。例如，K均值聚类、主成分分析（PCA）、生成对抗网络（GANs）等都是无监督学习的例子。

方法：

        无监督学习方法的种类多种多样，包括基于距离的聚类、概率图模型、自编码器、生成对抗网络等。这些方法旨在发现数据中的模式、结构和潜在表示。

总结

1. 半监督学习介于监督学习和无监督学习之间，利用带标签和不带标签的数据进行学习。
2. 自监督学习使用自动生成的目标标签或任务来进行学习，无需外部标签。
3. 无监督学习是一种从未标记的数据中学习模式和结构的学习方式，没有明确的目标标签或任务。
每种学习范式都有其独特的应用和方法，根据具体问题的性质来选择适当的学习方式。