在传统的前馈神经网络中,权值和阈值的优化采用的梯度下降的方法进行优化的。在优化过程中发现,梯度下降在迭代次数比较多的情况下,收敛速度慢,预测精度低的行为。
差分进化算法在优化线性和非线性是比较不错的算法,收敛速度快,精度高。它对于处理线性和非线性的问题恰好可以引入优化神经网络参数中来。
我们知道,前馈神经网络是以误差函数作为梯度函数进行下降而找到最优的权值和阈值。
这里可以利用差分进化算法的良好优化性能,以误差函数作为我们的适应度函数,以权值、阈值作为我们的变量。
因此则可以将其看待为优化多维单目标优化,这样以来结合差分进化算法的优越性,良好的解决了神经网络的权值、阈值优化。
通过差分进化算法优化出权值和阈值之后,建立神经网络模型。进而使用该模型对测试集进行优化测试,同时与真实值进行比较。
如果对此研究感兴趣的可以看看如下连接的关于进化算法优化神经网络的文章:
A Collective Intelligence based Differential Evolution algorithm for optimizing the structure and parameters of a neural network
具体的测试文件代码如下:
clc
clear
close all
%