遗传算法优化的bp神经网络_基于遗传算法优化的BP神经网络的回归分析——算法参数的确定...

一个算法的运算时间以及性能的好坏在一定程度上也取决于其参数的设置，其参数确定的过程，其实也是一种优化。我们知道，每一种算法的参数取值范围不同，但同时各参数间又互相联系，有些算法的参数凭借使用者的经验进行设定，这样算法的性能未必最佳，为此本文将对算法进行试验确定。前一节进行了遗传算法优化的BP神经网络的训练函数的选取，为本节中对遗传算法部分参数的选取提供了一个理论性的指导。本节在此基础上，由实验来选取其关于遗传算法部分参数。 由遗传算法的简介中可知，遗传算法的主要参数是种群规模，交叉和变异概率，根据查阅的相关文献可知，其种群规模一般的取值范围是[10, 100]，交叉概率一般的取值范围是[0.4, 0.99]，变异概率一般的取值范围是[0.001, 0.1]。下面测试分别固定其中两个参数不变，测试第三个参数，其实验环境、实验数据以及测试函数同上一节。

（1）参数设定：BP神经网络的最大训练次数设为300次，其余参数设定同上一节。

（2）实验仿真与结果分析：

表2遗传算法优化的 BP 算法中不同种群规模对 Sphere 函数预测结果对比

注：交叉概率为0.8，变异概率为0.09。

图1 不同种群规模的标准差变化曲线

图2 不同种群规模的收敛精度曲线

图 3不同种群规模的适应度曲线

图 4种群规模与最佳适应度值关系曲线

图 5 种群规模与算法运算时间关系曲线

1. 标准偏差反映一组数据的分散程度，因此，较小的数据集的标准偏差，更集中，算法的预测效果更好，从图1和表2中我们看出，种群规模为20, 40~80时标准差较小。
2. 收敛精度反映着算法的预测能力，即收敛精度越低其预测效果越好，当然，如果收敛精度低也可能导致过拟合现象。由于本次算法是经过遗传算法优化的，其主要目的就是客服传统BP网络的过拟合现象，因此，本次算法中出现过拟合现象的情况非常小。由图2及表1中可直观的看出，种群规模为20, 40~80时收敛精度较好。
3. 相对误差指的是测量所造成的绝对误差与被测量〔约定〕真值之比。乘以100%所得的数值，以百分数表示。一般来说，相对误差更能反映测量的可信程度。从表1的相对误差范围一列中我们可以看出，当种群规模为20, 40, 50, 70, 80时相对误差较小，其相对误差的范围也较小。
4. 适应度值反映着遗传算法的全局搜索性能，从图1、图2中可以看出，随着种群规模从10~100变化，它们进化100代后，其相对应的适应度值基本走势越来越低（种群规模为70时比种群规模为80时的值稍低），但其总体都落在(23, 29)区间内。对于该算法来说，其适应度值越低，算法的全局搜索能力越好，然而，当种群规模从10到100递增时，其算法的运算时间基本成线性增加（图5），因此，并不是种群规模越大就越好。

综上所述，根据算法预测效果以及运算时间，本文提出的遗传算法优化的BP算法的种群规模参数宜选取20。下面讨论交叉概率。

表2遗传算法优化的 BP 算法中不同交叉概率对 Sphere 函数预测结果对比

注：种群规模为20，变异概率为0.09。

图6 不同交叉概率的方差变化曲线

图7 不同交叉概率的收敛精度曲线

图8 不同交叉概率的适应度曲线

从表2中我们可以看出，交叉概率为0.7, 0.8时其误差范围相对较小；

② 图6和表2中可以看出，交叉概率为0.5, 0.7, 0.8时，其算法的标准差较小；

③ 图7中显示，交叉概率为0.5, 0.7, 0.8时，其算法的收敛精度较小；

④ 图8中显示，交叉概率为0.5, 0.6, 0.7时，其适应度值较好。 综上可知，该算法的最佳交叉概率为0.7。

表3 遗传算法优化的 BP 算法中不同变异概率对 Sphere 函数预测结果对比

注：种群规模为20，交叉概率为0.7。

图9 不同变异概率的标准差变化曲线

图 10 不同变异概率的收敛精度曲线

图11 不同变异概率的适应度曲线

1. 由表3 相对误差一列可知，变异概率为 0.001, 0.01, 0.09 时，其相对误差范围较小；
2. 由表3和图9可知，变异概率为 0.001, 0.01, 0.03, 0.09 时，其标准差较小
3. 由表3和图10可知，变异概率为 0.001, 0.01, 0.03, 0.09 时，其收敛精度较小
4. 由图11可知，变异概率为 0.01, 0.02, 0.05, 0.07 时，其适应度值较好，其中变异概率为 0.05 时，适应度值最好，变异概率为 0.01, 0.02, 0.07 时，其适应度值比较接近。 综合以上分析，该算法变异概率取 0.01。

《来源于科技文献，经本人分析整理，以技术会友，广交天下朋友》