在线式极限学习机OS-ELM

本文详细介绍了在线式极限学习机(OS-ELM)的工作原理,针对样本数据不断增大的场景,避免了传统ELM全量训练的耗时问题。通过推导得出在线学习部分的递推公式,阐述了如何利用Woodbury矩阵恒等式进行求解,并简化了单样本更新的情况。OS-ELM的核心在于每次仅训练新增样本,保持模型的高效更新。
摘要由CSDN通过智能技术生成

写在前面:在前一篇文章,我分析了极限学习机的原理,包含比较详细的公式推导。
极限学习机原理(含公式推导透彻)
本篇文章主要介绍,在线式极限学习机。对于有样本数据不断增加和更新的场景,传统的极限学习机每次增加数据后都要重新把所有数据重新训练一遍,导致随着数据增多训练耗时越来越长。
在线式极限学习机,每次训练增加的样本数据即可,不用每次都把所有的数据重新训练一遍来获取模型。
PS:这里所有的逆矩阵,比如K-1均是伪逆矩阵

一.原理推导

1.原理推导

在线顺序极限学习机分为两部分,第一部分初始学习阶段(形成一个初始的模型,相当于ELM)。第二部分在线学习部分即每次有更新的样本数据,将其加入模型中训练。
从ELM我们可以知道隐含层权值矩阵:β=H-1T ′,这里的网络输出:T 如下
PS:T′为T的转置
在这里插入图片描述
(然后为了方便的推导在线

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值