差分进化算法总结

基本介绍

DE（Differential Evolution）算法于1997年由Rainer Storn和Kenneth Price在遗传算法等进化思想的基础上提出的，本质是一种多目标（连续变量）优化算法，用于求解多维空间中整体最优解。其基本思想即是来源于遗传算法，模拟遗传算法中的杂交、变异、复制来设计算子。

DE算法和GA算法的相同点：

• 随机生成初始种群
• 以种群中个体适应度值为选择标准
• 主要过程包括变异、杂交、选择三个步骤

DE算法和GA算法的区别：

• DE算法的变异向量是由父代差分向量生成，与父代个体向量交叉生成新个体向量
• 新个体向量与父代个体一起进行选择

基本算法框架

种群初始化

在解空间内随机均匀的产生M个个体。每个个体是一个n为向量：

$$X_i(0)=X_{i,1}(0)+X_{i,2}(0)+...+X_{i,n}(0),i=1,2,3,...,M$$

其中$X_i(0)$表示第0代的第i个个体，$X_{i,j}(0)$表示第0代第i个个体的第j个基因。注意：每个个体代表解空间内的某一个解，而基因代表解的各个分量（和遗传算法一样，遗传算法的每个个体的染色体二进制码在一起代表了一个解）。

种群初始化的方式如下：（其实就是在范围内随机产生个体）

$fori=1:M$
$forj=1:n$
$X_{i,j}(0)=L_j^{min}+rand(0,1)\ast (L_j^{max}-L_j^{min})$
$end$
$end$

变异算子

在第g次迭代中，对于个体$X_i(g)=(X_{i,1}(g)+X_{i,2}(g)+...+X_{i,n}(g))$，如下生成一个一号中间向量$H_i(g)$：从种群中随机选择三个个体$X_{p1}(g),X_{p2}(g),X_{p3}(g)$，且$p1̸=p2̸=p3$，则有

$$H_i(g)=X_{p1}(g)+F\ast (X_{p2}(g)-X_{p3}(g))$$

其中${\Delta }_{p2,p3}(g)=X_{p2}(g)-X_{p3}(g)$是差分向量；$F$是缩放引子，用于控制差分向量的影响力。其几何意义如下图所示：

交叉算子

引入交叉算子可以增强种群的多样性。在第g次迭代中，对于每个个体和它所生成的一号中间向量进行交叉，具体的说就是对每一个等位基因（分量）按照一定的概率选择一号中间向量（否则就是原向量）来生成二号中间向量$V_i(g)$。$V_i(g)$的每一个分量按照如下公式计算：

$$v_{i,j}(g)=\{\begin{array}{l}{h}_{i,j}(g),rand(0,1)\le P_{cr}\\ x_{i,j}(g),else\end{array}$$

其中$P_{cr}$为交叉概率。交叉过程如下图所示：

选择算子

该过程根据适应度函数的值从第g次迭代中每个个体的二号中间向量$V_i(g)$和原向量$X_i(g)$中选择出适应度更高的作为下一代。

注意：不是在所有的$V_i(g)$、$X_i(g)$的总共$2M$个个体中选出适应度最高的那$M$个个体，而是对于这一代的每个个体的$V_i(g)$和$X_i(g)$都进行一次判断，留下适应度最好的那个作为下一代同样位置上的个体。

公式表示如下：

$$X_i(g+1)=\{\begin{array}{l}{V}_i(g),iff(V_i(g))>f(X_i(g))\\ X_i(g),else\end{array}$$

这样的选择算子操作有如下性质：

• 对于每个个体，$X_i(g+1)$一定要优于$X_i(g)$；
• 算法最终肯定会收敛到某个最优点（可能是局部最优）；
• 变异、交叉操作有助于跳出局部最优到达全局最优。

MATLAB代码实现

准备使用差分进化算法求解

$$f(x,y)=-20e^{-0.2\sqrt{\frac{x^2+y^2}{2}}}-e^{\frac{cos2\pi x+cos2\pi y}{2}}+20+e$$

这个神一般的函数在区间$[-4,4]$上的最小值。该函数的图像如下，根据图像易知最小值点为$(0,0)$，最小值为0。

MATLAB代码如下：

% 使用差分进化算法计算这个函数f = @(x,y) -20.*exp(-0.2.*sqrt((x.^2+y.^2)./2))-exp((cos(2.*pi.*x)+cos(2.*pi.*y))./2)+20+exp(1) 在区间[-4,4]上的最小值
% 它真正的最小值点是(0,0)

N = 20; %设置种群数量
F = 0.5; %设置差分缩放因子
P_cr = 0.5; %设置交叉概率
T = 300; %设置最大迭代次数
f = @(x,y) -20.*exp(-0.2.*sqrt((x.^2+y.^2)./2))-exp((cos(2.*pi.*x)+cos(2.*pi.*y))./2)+20+exp(1); %定义目标函数

%种群初始化
population = -4 + rand(N,2).*8;
t = 0; %代数初始化
%开始迭代
while t < T
    %变异
    H_pop = [];
    for i = 1:N
        index = round(rand(1,3).*19)+1;
        add_up = population(index(1),:) + F.*(population(index(2),:)-population(index(3),:));
        H_pop = [H_pop; add_up];
    end
    %交叉
    V_pop = H_pop;
    for i = 1:N
        for j = 1:2
            if rand > P_cr
                V_pop(i,j) = population(i,j);
            end
        end
    end
    %选择
    for i = 1:N
        f_old = f(population(i,1),population(i,2));
        f_new = f(V_pop(i,1),V_pop(i,2));
        if f_new < f_old
            population(i,:) = V_pop(i,:);
        end
    end
    %更新t值
    t = t + 1;
end
population

代码输出结果如下：

可以看到最后的种群几乎所有个体都趋于最优解(0,0)。
（最后喷一句新版markdown编辑器居然不识别MATLAB代码，不能高亮！！！）