ELM（Extreme Learning Machine）:超限学习机

定义

极限学习机器( Extreme Learning Machine，ELM) 是神经网络研究中的一种算法，是一种泛化的单隐层前馈神经网络( Single-hidden Layer Feed forward Network，SLFN)[1]。

特点

输入权值和隐层阈值进行随机赋值，输出层权值则通过最小二乘法直接计算。整个学习过程一次完成，无需迭代，因而能达到极快的学习速度[2]。

算法

假设有N个任意的样本 ${(X_i,t_i)}$
其中$X_i=[x_{i1},x_{i2},⋯,x_{in}]^T \in R^T$，$t_i=[t_{i1},t_{i2},⋯,t_{im}]^T\in R^m$

对于一个具有L个隐层节点，激活函数为g(x)的单隐层前馈神经网络输出可以表示为

$$\sum_{i=1}^L β_ig_i (X_j )=\sum_{i=1}^L β_i g(W_i\cdot X_j+b _i )=o_j,j=1,2,\ldots N$$

其中， Wi=[wi1,w