基于核极限学习机(KELM)分类 -附代码

基于核极限学习机(KELM)分类

摘要：本文利用核极限学习机进行优化，并用于分类

1.极限学习机原理概述

典型的单隐含层前馈神经网络结构如图1 所示，由输入层、隐含层和输出层组成，输 入层与隐含层、隐含层与输出层神经元间全连接。其中，输入层有 n 个神经元，对应 n 个输入变量， 隐含层有 l个神经元；输出层有 m 个神经元 ，对应 m 个输出变量 。 为不失一般性，设输 入层与隐含层间的连接权值 w 为:
$$w=\left[\begin{array}{cccc}{w}_{11}& w_{12}& ...& w_{1,n}\\ w_{21}& w_{22}& ...& w_{2n}\\ ...& & & \\ w_{l1}& w_{l2}& ...& w_{ln}\end{array}\right]\text{\hspace{1em}(1)}$$
其中，$w_n$表示输入层第$i$个神经元与隐含层第$j$个神经元间的连接权值。

设隐含层与输出层间的连接权值 ， 为$\beta$:
$$\beta =\left[\begin{array}{cccc}{\beta }_{11}& {\beta }_{12}& ...& {\beta }_{1m}\\ {\beta }_{21}& {\beta }_{22}& ...& {\beta }_{2m}\\ ...& & & \\ {\beta }_{l1}& {\beta }_{l2}& ...& {\beta }_{lm}\end{array}\right]\text{\hspace{1em}(2)}$$
其中，自${\beta }_{jk}$表示隐含层第 j 个神经元与输出层第 k个神经元间的连接权值。

设隐含层神经元的阈值值 b 为：
$$b=\left[\begin{array}{c}{b}_1\\ b_2\\ ...\\ b_l\end{array}\right]\text{\hspace{1em}(3)}$$
设具有 Q 个样本的训练集输入矩阵 X 和输出矩阵 Y 分别为
$$X=\left[\begin{array}{cccc}{x}_{11}& x_{12}& ...& x_{1Q}\\ x_{21}& x_{22}& ...& x_{2Q}\\ ...& & & \\ x_{n1}& x_{n2}& ...& x_{nQ}\end{array}\right]\text{\hspace{1em}(4)}$$

KaTeX parse error: Undefined control sequence: \matrix at position 11: Y =\left[\̲m̲a̲t̲r̲i̲x̲{y_{11},y_{12},…

设隐含层神经元的激活函数为 g(x)，则由图1 可得， 网络的输出 T 为:
$$T=[t_1,..,t_Q{]}_{m\ast Q},t_j=[t_{1j},...,t_{mj}{]}^T={\left[\begin{array}{c}{\sum }_{i=1}^t{\beta }_{i1}g(w_i{x}_j+b_i)\\ {\sum }_{i=1}^t{\beta }_{i2}g(w_i{x}_j+b_i)\\ ...\\ {\sum }_{i=1}^t{\beta }_{im}g(w_i{x}_j+b_i)\end{array}\right]}_{m\ast 1},(j=1,2,...,Q)\text{\hspace{1em}(6)}$$
式(6)可表示为：
$$H\beta =T’\text{\hspace{1em}(7)}$$
其中， T’为矩阵 T 的转置； H 称为神经网络的隐含层输出矩阵 ， 具体形式如下 ：
$$H(w_1,...,w_i,b_1,...,b_l,x_1,...,x_Q)={\left[\begin{array}{cccc}g(w_1\ast x_1+b_1)& g(w_2\ast x_1+b_2)& ...& g(w_l\ast x_1+b_l)\\ g(w_1\ast x_2+b_1)& g(w_2\ast x_2+b_2)& ...& g(w_l\ast x_2+b_l)\\ ...& & & \\ g(w_1\ast x_Q+b_1)& g(w_2\ast x_Q+b_2)& ...& g(w_l\ast x_Q+b_l)\end{array}\right]}_{Q\ast l}\text{\hspace{1em}(8)}$$

2.ELM学习算法

由前文分析可知，ELM在训练之前可以随机产生 w 和 b ， 只需确定隐含层神经元个数及隐含层和神经元的激活函数（无限可微） ， 即可计算出$\beta$ 。具体地， ELM 的学习算法主要有以下几个步骤：

（1）确定隐含层神经元个数，随机设定输入层与隐含层间的连接权值 w 和隐含层神经元的偏置 b ;

（2） 选择一个无限可微的函数作为隐含层神经元的激活函数，进而计算隐含层输出矩 阵 H ;

（3）计算输出层权值：$\beta =H^{+}{T}^{\prime }$

值得一提的是，相关研究结果表明，在 ELM 中不仅许多非线性激活函数都可以使用（如 S 型函数、正弦函数和复合函数等)，还可以使用不可微函数，甚至可以使用不连续的函数作为激活函数。

3.KELM理论基础

核极限学习机（Kernel Based Extreme Learning Machine，KELM）是基于极限学习机（Extreme Learning Machine，ELM）并结合核函数所提出的改进算法，KELM 能够在保留 ELM 优点的基础上提高模型的预测性能。

ELM 是一种单隐含层前馈神经网络，其学习目标函数F(x) 可用矩阵表示为:
$$F(x)=h(x)\times \beta =H\times \beta =L\text{\hspace{1em}(9)}$$
式中：$x$ 为输入向量，$h(x)$、$H$ 为隐层节点输出，$\beta$ 为输出权重，$L$ 为期望输出。

将网络训练变为线性系统求解的问题，$\beta$根据 $\beta =H\ast \cdot L$ 确定，其中，$H^{\ast }$ 为 $H$ 的广义逆矩阵。为增强神经网络的稳定性，引入正则化系数 $C$ 和单位矩阵 $I$，则输出权值的最小二乘解为
$$\beta =H^T(H{H}^T+\frac{I}{c}{)}^{-1}L\text{\hspace{1em}(10)}$$
引入核函数到 ELM 中，核矩阵为：
$${\Omega }_{ELM}=H{H}^T=h(x_i)h(x_j)=K(x_i,x_j)\text{\hspace{1em}(11)}$$
式中：$x_i$ ，$x_j$ 为试验输入向量，则可将式（9）表达为：
$$F(x)=[K(x,x_1);...;K(x,x_n)](\frac{I}{C}+{\Omega }_{ELM}{)}^{-1}L\text{\hspace{1em}(12)}$$
式中：$(x_1,x_2,\dots ,x_n)$ 为给定训练样本，$n$ 为样本数量.$K()$为核函数。

4.分类问题

本文对乳腺肿瘤数据进行分类。采用随机法产生训练集和测试集，其中训练集包含 500 个样本，测试集包含 69 个样本 。 测试正则化系数 C 和核函数参数 S 分别为2和4，选取核函数为rbf 高斯核函数。

5.测试结果

训练集结果如下图所示

测试集结果如下图所示：

训练集正确率：100%
测试集正确率：89.8551%
病例总数：569 良性：357 恶性：212
训练集病例总数：500 良性：300 恶性：200
测试集病例总数：69 良性：57 恶性：12
良性乳腺肿瘤确诊：55 误诊：2 确诊率p1=96.4912%
恶性乳腺肿瘤确诊：7 误诊：5 确诊率p2=58.3333%

6.Matlab代码

个人资料