监督学习(Supervised learning)、无监督学习(Unsupervised Learning)、半监督学习(Semi-supervised Learning)、自监督学习(Self-supervised Learning)
1.监督学习(Supervised learning)
用标记的训练数据X能预测出变量Y
监督学习主要分为分类(变量的类别,如结果真假)和回归(最终结果,如预测的气温)
监督学习一般使用两种目标变量,标称型和数值型。 标称型目标变量结果在有限目标集中取值,如真或假,主要用于分类;数值型目标可以从无限数值集合中取值,主要用于回归分析。
常见的监督学习算法:
分类: K近邻、决策树、朴素贝叶斯、逻辑回归、支持向量机、AdaBoost
回归:线性回归
2.无监督学习(Unsupervised Learning)
只有输入变量X,没有输出变量Y,需要回答从输入变量X中能发现什么信息
常见的无监督学习问题:关联(发现数据集合中的相关数据共现的概率)、聚类(把数据集中相似的对象归到同一簇中)、降维(对输入数目削减,由此剔除数据中的噪声并提高机器学习方法的性能)
监督学习简单高效,无监督学习不用标记数据更加有效
3.半监督学习(Semi-supervised Learning)
获取数据容易,人工标记数据成本比较高,获取的样本只有部分被标记
常见的半监督学习问题:分类、回归、聚类、降维
4.自监督学习(Self-supervisedlearning)
利用辅助任务(pretext)从大规模的无监督数据中挖掘自身的监督信息,通过这种构造的监督信息对网络进行训练,从而可以学习到对下游任务有价值的表征。(算法在大规模无监督数据中自动构造监督信息,来进行监督学习或训练,非人工标注)
自监督学习的方法: 基于上下文(Context based)、 基于时序(Temporal Based)、基于对比(Contrastive Based)