在线半监督学习理论及方法

1、 两个问题：数据往往是无标注的样本，通常需要花费大量人力物力进行数据标注；另一个是用以学习的数据样本往往是在模型训练和应用过程中不断增长的。
一方面能够有效地提高大量未标记样本的利用率，另一方面有效地利用在线产生的数据流。

2、 在很多实时预测问题中，传感器设备从环境中不断地采集数据，并源源不断地送往学习系统。学习系统需要根据到达的训练数据实时地进行学习，并在任意时间能够实时地为新数据提供预测。传统的离线机器学习方法对训练数据进行先存储后学习的方式难以满足训练和预测的实时性需求，因此，在线学习（Online Learning）作为处理大规模实时预测问题的方法在近年来已经受到了研究者的广泛关注。

3、 在线半监督学习的特点：
1） 数据是海量的，但用于标记这些数据的资源是有限的；
2） 数据以流的形式到达，但存储这些数据的空间是有限的；
3） 数据的分布P（x）和数据的标签P（y|x）可能会随着时间发生变化。