从训练数据视角：看机器学习和深度学习的大三范式

从训练数据视角：机器学习和深度学习 “模型”的大三范式

tips:这篇文章写到一半就因为其他事暂停了，现在总结和归纳的不全面，后续可能更新

训练数据一般分为两个部分，一部分是数据本身，一部分是标注(Label)。训练是通过数据对应的标注，让模型理解数据。

1.监督学习

即训练直接输入数据和对应的标注，让模型能识别数据的标注。

1.1 半监督学习

利用无标记数据来训练一个辅助分类器或者利用无标记数据来学习数据分布，从而改进有标记数据的分类效果。这些技术包括自编码器、半监督SVM、深度置信网络等。

1.2 有限监督学习

比如弱监督学习，few-shot learning，one-shot learning，就是在更少标签的情况下完成具体任务。

2.无监督学习

即训练数据没有标注

Tips：通常将生成模型归为无监督学习

2.1 自监督学习

利用无标记的数据来自动生成标签或者特征，然后利用这些生成的标签或者特征来训练模型。

即通过大量的无标记数据，学习数据的内在结构和特征，从而产生高质量的表示，这些表示可以被用于各种任务，例如分类、目标检测、图像分割等。

2.2 元学习，Meta Learning

这个是learn-to-learning, 就是通过不同的数据集/任务，让机器学会一些不同数据集或任务的本质规律，从而适应新的数据集/任务

3.强化学习

强化学习是通过探索未知数据来学习一切可能的结果，从而找到最佳结果。

强化学习需要记录连续的行动和状态空间，类似一个二维矩阵，俗称Q表或Q-Learning

定义了一个环境和一个代理。代理可以观察环境，并根据观察结果采取行动。

每次代理采取行动后，环境会反馈一个奖励信号，告诉代理这个行动是好的还是坏的。代理的目标是通过不断尝试和学习来最大化累积奖励信号。代理的学习过程通常是基于试错（trial-and-error）的，通过尝试多种行动并观察结果来更新策略。