写在前面:在前一篇文章,我分析了极限学习机的原理,包含比较详细的公式推导。
极限学习机原理(含公式推导透彻)
本篇文章主要介绍,在线式极限学习机。对于有样本数据不断增加和更新的场景,传统的极限学习机每次增加数据后都要重新把所有数据重新训练一遍,导致随着数据增多训练耗时越来越长。
在线式极限学习机,每次训练增加的样本数据即可,不用每次都把所有的数据重新训练一遍来获取模型。
PS:这里所有的逆矩阵,比如K-1均是伪逆矩阵
一.原理推导
1.原理推导
在线顺序极限学习机分为两部分,第一部分初始学习阶段(形成一个初始的模型,相当于ELM)。第二部分在线学习部分即每次有更新的样本数据,将其加入模型中训练。
从ELM我们可以知道隐含层权值矩阵:β=H-1T ′,这里的网络输出:T 如下
PS:T′为T的转置
(然后为了方便的推导在线