本文介绍在线学习的一些内容,并做一些总结,首先什么是在线学习,根据维基百科的定义,传送门,总结来说在线学习就是每来一个/批样本增量更新一次;
一、 提一个问题,为什么需要在线学习,从下面几个角度探讨:
- 离线批量学习
- 早先的搜索学习能力,是基于批处理的离线机器学习。在每次迭代计算过程中,需要把全部的训练数据加载到内存中计算。虽然有分布式大规模的机器学习平台,在某种程度上批处理方法对训练样本的数量还是有限制的。在线学习不需要缓存所有数据,以流式的处理方式可以处理任意数量的样本,做到数据的实时消费。
- 特征实时
- 2014年双11,实时技术在大促场景上,实现了商品和用户的特征实时,表现不俗。
- 为什么需要模型在线学习呢?以及为什么实现秒级的模型更新?
- 数据分布变化:在批量学习中,⼀般会假设样本独立服从⼀个未知的分布,但如果分布变化,模型效果会明显降低。而在实际业务中,很多情况下,⼀个模型生效后,样本的分布会发生大幅变化,因此学到的模型并不能很好地匹配线上数据。实时模型,能通过不断地拟合最近的线上数据,解决这⼀问题,因此效果会较离线模型有较⼤提升。那么为什么实现秒级分钟级的模型更新?在双11这种成交爆发力强、