智能优化算法：龙格-库塔优化算法 - 附代码

智能优化算法：龙格-库塔优化算法

摘要：龙格-库塔优化算法（Runge Kutta optimizer，RUN）是于2021年提出的一种新型智能优化算法，该算法基于龙格-库塔方法中提出的计算梯度搜索概念来指导寻优，具有寻优能力强，收敛速度快等特点。

1.算法原理

1.1 搜索机制

该算法的搜索机制基于RK方法，使用一组随机解搜索决策空间，并实现适当的全局和局部搜索。采用4阶RK方法。
$$SM=\frac{1}{6}(x_{RK})\Delta x\text{\hspace{1em}(1)}$$

$$x_{RK}=k_1+2k_2+2k_3+k_4\text{\hspace{1em}(2)}$$

$$k_1=\frac{1}{2\Delta x}(rand\ast x_w-u\ast x_b)\text{\hspace{1em}(3)}$$

$$u=round(1+rand)\ast (1-rand)\text{\hspace{1em}(4)}$$

$$k_2=\frac{1}{2\Delta x}(rand(x_w+ran{d}_1\ast k_1\ast \Delta x)-(u{x}_b+ran{d}_2\ast k_1\Delta x))\text{\hspace{1em}(5)}$$

$$k_3=\frac{1}{2\Delta x}(rand(x_w+ran{d}_1(k_2/2)\Delta x)-(u{x}_b+ran{d}_2(k_2/2)\Delta x))\text{\hspace{1em}(6)}$$

$$k_4=\frac{1}{2\Delta x}(rand\ast (x_w+ran{d}_1{k}_3\Delta x)-(u{x}_b+ran{d}_2{k}_3\Delta x))\text{\hspace{1em}(7)}$$

$$\Delta x=2\ast rand\ast |Stp|\text{\hspace{1em}(8)}$$

$$Stp=rand\ast ((x_b-rand\ast x_{avg})+\gamma )\text{\hspace{1em}(9)}$$

$$\gamma =rand\ast (x_n-rand\ast (u-l)\ast exp(-4i/Ma{x}_i))\text{\hspace{1em}(10)}$$

其中$x_b$和$x_w$分别为种群的最优解和最差解。$ran{d}_1,ran{d}_2$为[0,1]之间的随机数。$x_{avg}$为种群的平均值。$i$为当前迭代次数，$Ma{x}_i$为最大迭代次数。

1.2 位置更新

RUN算法的位置更新如式（11）所示
$$x_{n+1}=\{\begin{array}{l}(x_c+r\ast SF\ast g\ast x_c)+SF\ast SM+u\ast x_s,ifrand<0.5\\ (x_m+r\ast SF\ast g\ast x_m)+SF\ast SM+u\ast x_s^{\prime },else\end{array}\text{\hspace{1em}(11)}$$

$$x_s=randn\ast (x_m-x_c)\text{\hspace{1em}(12)}$$

$$x{s}^{\prime }=randn\ast (x_{r1}-x_{r2})\text{\hspace{1em}(13)}$$

中，$r$是1或-1的整数；$g$是[0,2]的随机数；$SF$是自适应因子；$u$为随机数。

SF计算如下：
$$SF=2\ast (0.5-rand)\ast f\text{\hspace{1em}(13)}$$

$$f=a\ast exp(-b\ast rand\ast i/Ma{x}_i)\text{\hspace{1em}(14)}$$

其中$i$为当前迭代次数，$Ma{x}_i$为最大迭代次数。$a$和$b$为一个常数。$rand$为[0,1]之间的随机数。

$x_c$和$x_m$的定义如下：
$$x_c=\phi x_n+(1-\phi )\ast x_{r_1}\text{\hspace{1em}(15)}$$

$$x_m=\phi x_{best}+(1-\phi )x_{lbest}\text{\hspace{1em}(16)}$$

其中$\phi$为[0,1]之间的随机数;$x_{best}$为全局最优解；$x_{lbest}$是每代最优位置。

1.3 解质量增强（ESQ）

在该算法中，采用解质量增强(ESQ)的方法来提高解的质量，避免每次迭代中出现局部最优。通过使用ESQ执行以下公式产生新解($x_{new2}$):
$$x_{new2}=\{\begin{array}{l}{x}_{new1}+rw|(x_{ne{w}_1}-x_{avg})+randn|,rand<0.5,w<1\\ (x_{new1}-x_{avg})+rw|(u{x}_{new1}-x_{a}vg)+randn|,rand<0.5,w\ge 1\end{array}\text{\hspace{1em}(17)}$$
其中：
$$w=rand(0,2)\ast exp(-ci/Ma{x}_i)\text{\hspace{1em}(18)}$$

$$x_{avg}=\frac{x_{r1}+x_{r2}+x_{r3}}{3}\text{\hspace{1em}(19)}$$

$$x_{new1}=\beta \ast x_{avg}+(1-\beta )x_{best}\text{\hspace{1em}(20)}$$

其中，$\beta$为[0,1]之间随机数。$c$为[0,5]之间随机数;$r$是1、0或-1的随机整数;$x_{best}$表示全局最优位置。该部分计算的解$x_{new2}$可能比不上当前解。为了增强解的质量，将生成另一个新解$x_{new3}$ ，定义如下：
$$x_{new3}=(x_{new2}-rand{x}_{new2})+SF(rand\ast x_{RK}+(v{x}_b-x_{new2}))\text{\hspace{1em}(21)}$$
其中，$v$为2*rand的随机数。

算法伪代码如下：

Algorithm 1. The pseudo-code of RUN
Stage 1. Initialization
Initializea,b
Generate the RUN population X n (n = 1,2,…,N)
Calculate the objective function of each member of population
Determine the solutions x w , x b , andx best
Stage 2. RUN operators
for i = 1: Maxi
for n = 1 : N
for l = 1 : D
Calculate position x n+1,l  using Eq. (11)
end for
Enhance the solution quality
ifrand < 0.5
Calculate position x new2  using Eq. (17)
if f(x n ) < f(x new2 )
if rand<w
Calculate position x new3  using Eq. (21)
end
end
end
Update positions x w  andx b
end for
Update positionx best
i = i + 1
end
Stage 3. returnx best

2.实验结果

3.参考文献

[1] Iman Ahmadianfar, Ali Asghar Heidari, Amir H. Gandomi, Xuefeng Chu, Huiling Chen. RUN beyond the metaphor: An efficient optimization algorithm based on Runge Kutta method[J]. Expert Systems with Applications, 2021, 181(115079): 0957-4174.

4.Matlab代码

d the metaphor: An efficient optimization algorithm based on Runge Kutta method[J]. Expert Systems with Applications, 2021, 181(115079): 0957-4174.