批量学习:无法进行增量学习。先训练全数据集,得到训练后的模型,在实际应用中,将数据输入到模型中,得到输出。如果更新训练样本集,需要重新训练模型。
在线学习:可以进行增量学习。可以循序渐进的给系统提供训练数据,逐步积累学习成果,其中提供数据的方式可以是单独的,也可以采用小批量的小组数据进行训练。
基于实例的学习:死记硬背。系统完全记住学习示例,然后通过某种相似度度量方式将其泛化到新的实例上。
基于模型的学习:构建示例的模型,然后使用该模型进行预测。
核外学习:对于超大数据集(超过一台计算机的主存储器的数据),进行在线学习。将数据分割成小批量,然后使用在线学习技术从这些小批量中学习。