二、ELM
1、算法介绍及功能
极限学习机(Extreme Learning Machine) ELM是一种针对单隐含层前馈神经网络(Single-hiddenLayerFeedforwardNeuralNetwork,SLFN)的神经网络的算法。最大的特点是输入权值和隐含节点的偏置都是在给定范围内随机生成的,被证实学习效率高且泛化能力强。训练时的主要目的在于输出层的权值求解。
ELM具有学习效率高和泛化能力强的优点,被广泛应用于分类、回归、聚类、特征学习等问题中。
2、算法结构及原理
ELM是一种新型的快速学习算法,对于单隐层神经网络,ELM 可以随机初始化输入权重和偏置并得到相应的输出权重。
(1)对于一个单隐层神经网络(见Figure1),假设有N个任意的样本,其中,,。对于一个有L个隐层节点的单隐层神经网络可以表示为
其中,