粒子群算法（PSO）——算法详解（二）

粒子群算法的修正

基础的PSO算法可以成功解决一些问题，例如数学优化问题、组合问题即多层神经网络训练等。但也存在着算法收敛性与收敛速度等问题，因此对PSO算法有许多修正方法，用于提升性能。这些修改包括引入惯性权重、最大速度、速度收缩、确定个人最佳和全局最佳(或局部最佳)位置以及不同的速度模型等方法。

一、最大速度

决定优化算法效率和准确性的很重要的一个方面是 $exploration–exploitationtrade-off$，即探索能力与利用能力的权衡。$exploration$指算法探索不同搜索空间来确定最优解位置所在区域的能力；$exploitation$指算法在给定范围内寻找一个优秀候选解的能力。一个好的优化算法可以很好的平衡这两个目标的矛盾。在PSO中，是利用速度更新公式来达到这一目标。
如前面几篇所述，粒子 $i$ 的速度更新公式为：

${\mathbf{v}}_i(t+1)={\mathbf{v}}_i(t)+c_1\cdot {\mathbf{r}}_1(t)\cdot [{\mathbf{y}}_i(t)-{\mathbf{x}}_i(t)]+c_2\cdot {\mathbf{r}}_2(t)\cdot [{\hat{\mathbf{y}}}_i(t)-{\mathbf{x}}_i(t)]$。

对于 $g-best$ PSO算法， 粒子 $i$ 在第 $j$ 维上的速度更新公式为：

$v_{ij}(t+1)=v_{ij}(t)+c_1\cdot r_{1j}(t)\cdot [y_{ij}(t)-x_{ij}(t)]+c_2\cdot r_{2j}(t)\cdot [{\hat{y}}_{ij}(t)-x_{ij}(t)]$

常数最大速度

若速度过大，则容易使粒子飞出搜索空间边界，造成粒子发散。为控制粒子的探索能力（即使粒子尽可能不飞出边界），引入速度的边界限制，即最大速度，以 $V_{max,j}$ 代表允许的在第 $j$ 维上的最大速度，则粒子速度更新公式可改为：
$v_i(t+1)=\{\begin{array}{rlr}{v}_{ij}^{\prime }(t+1),& & if{v}_{ij}^{\prime }(t+1))<V_{max,j}\\ V_{max,j},& & if{v}_{ij}^{\prime }(t+1))\ge V_{max,j}\end{array}$， 其中，$v_{ij}^{\prime }(t+1)$ 是根据上述速度更新公式计算得到的。最大速度对搜索的影响如下所示：

$V_{max,j}$ 的值是很重要的，它控制着由逐渐增加的速度所决定的搜索粒度。 $V_{max,j}$ 越大，全局探索能力越强； $V_{max,j}$ 越小，局部开发能力越强。因此，需要确定一个合适的 $V_{max,j}$ 值，以使粒子不能移动的太快或太慢，使得算法的探索与开发能力相平衡。通常， $V_{max,j}=\delta \cdot (x_{max,j}-x_{min,j})$ ，$\delta$ 具有问题独立性，可以使用一些经验方法得到（如交叉验证法）。

控制最大速度有许多优势，但也存在着一些问题：其一，最大速度不仅改变步长，也改变粒子移动的方向，可能有利于最优解的搜素，也可能不利；其二，当粒子的所有速度都达到最大速度时，就会使得粒子的搜索域变为一个的 $[{\mathbf{x}}_i(t)-{\mathbf{V}}_{max}，{\mathbf{x}}_i(t)+{\mathbf{V}}_{max}]$ 超立方体，这就使得粒子可能跳过最优解，也很难对局部区域进行良好的开发利用。这一问题可使用随时间变化的最大速度来解决（即 $V_{max,j}$ 随时间衰减）。

可利用双曲正切函数对速度进行限制，降低 PSO算法对 $\delta$ 的敏感性，如：$v_{ij}(t+1)=V_{max,j}\cdot tanh(\frac{v_{ij}^{\prime }(t+1)}{V_{max,j}})$。

动态最大速度

1.当经过 $\tau$ 次迭代，全局最优解没有提升时 :

$V_{max,j}(t+1)=\{\begin{array}{rlr}\gamma \cdot V_{max,j}(t),& & f(\hat{\mathbf{y}}(t))\ge f(\hat{\mathbf{y}}(t-t^{\prime }))\forall t^{\prime }=1,\cdots ,n_{t^{\prime }}\\ V_{max,j}(t),& & otherwise\end{array}$

2.指数衰减：$V_{max,j}(t+1)=(1-(\frac{t}{n_t}{)}^{\alpha })\cdot V_{max,j}(t)$，其中，$\alpha$ 是由实验或误差或正交验证等方法发现的一个正常数，$n_t$ 是最大时间步数（迭代次数）。

二、惯性权重

惯性权重可作为一个不使用最大速度时的机制，虽然对速度更新中第一项的作用上很成功，但并不能完全消除最大速度。惯性权重 $\omega$ 控制先前速度对新速度的影响，对于 $g-best$ PSO算法， 粒子 $i$ 在第 $j$ 维上的速度更新公式该为：

$v_{ij}(t+1)=\omega \cdot v_{ij}(t)+c_1\cdot r_{1j}(t)\cdot [y_{ij}(t)-x_{ij}(t)]+c_2\cdot r_{2j}(t)\cdot [{\hat{y}}_{ij}(t)-x_{ij}(t)]$

大的 $\omega$ 值提升探索能力，增加多样性；小的 $\omega$ 值提升局部开发能力，但太小的 $\omega$ 会使种群丧失探索能力，小的 $\omega$ 值使得对应的动量也小，这样使得粒子的方向变化会很容易。$\omega$ 越小，认知和社会成分就越能控制位置的更新。

对于 $\omega$ 的设置，可在迭代的初始阶段设置一个大一点静态值，使得可以充分搜索，之后使用动态的 $\omega$ ，使得粒子对局部区域的开发能力逐渐增强。$\omega$ 值和加速度常数之间的重要关系是至关重要的，因此 $\omega$ 的选择需要与 $c_1,c_2$ 一同进行。需满足：$\omega >\frac{1}{2}(c_1+c_2)-1$，这保证粒子轨迹线的收敛，若不满足，则会使粒子发散或产生循环行为。

一些动态变化的惯性权重如下：
1.随机调整：在每一代使用随机选择的不同的惯性权重 $\omega$ ， $\omega$ 的选择与认知部分和社会部分无关；

2.线性衰减： $\omega (t)=[\omega (0)-\omega (n_t)]\cdot \frac{(n_t-t)}{n_t}+\omega (n_t)$ ，其中，$n_t$ 是执行算法的最大时间步数，$\omega (0)$ 为初始惯性权重，$\omega (n_t)$ 为终止惯性权重，有$\omega (0)>\omega (n_t)$

3.非线性衰减：非线性衰减相较于线性衰减，进行探索的时间较短，更多的时间用在开发优秀解上。非线性衰减在平滑搜索的空间上更合适。有以下方法：
（1）$\omega (t+1)=\frac{(\omega (t)-0.4)\cdot (n_t-t)}{n_t+0.4}$，其中 $\omega (0)=0.9$
（2）$\omega (t+1)=\alpha \cdot \omega (t^{\prime })$，可取 $\alpha =0.975$，$t^{\prime }$ 是惯性权重上一次改变时的时间。只有当种群的适应度没有大的变化时，惯性权重才会发生改变。
（3）自适应惯性权重，其中惯性值的变化量与群体的相对改进成正比，即 ${\omega }_i(t+1)=\omega (0)+[\omega (n_t)-\omega (0)]\cdot \frac{e^{m_i(t)}-1}{e^{m_i(t)}+1}$ ，其中相对改进 $m_i(t)=\frac{f({\hat{\mathbf{y}}}_i(t))-f({\hat{\mathbf{x}}}_i(t))}{f({\hat{\mathbf{y}}}_i(t))+f({\hat{\mathbf{x}}}_i(t))}$，$\omega (0)<1,\omega (n_t)\approx 0.5$
。该方法的速度更新与认知部分无关，每个粒子的权重仅与距邻居中最优位置的距离有关。

4.模糊适应权重

5.增加型权重

三、限制系数

限制系数设置如下：
v i j ( t + 1 ) = χ ⋅ { v i j ( t ) + ϕ 1 ⋅ [ y i j ( t ) − x i j ( t ) ] + ϕ 2 ⋅ [ y ^ i j ( t ) − x i j ( t ) ] } v_{ij}(t+1)=\chi\cdot\{v_{ij}(t)+\phi_1\cdot [y_{ij}(t)-x_{ij}(t)]+\phi_2\cdot [\hat y_{ij}(t)-x_{ij}(t)]\} vij​(t+1)=χ⋅{vij​(t)+ϕ1​⋅[yij​(t)−xij​(t)]+ϕ2​⋅[y^​ij​(t)−xij​(t)]}，

其中 $\chi =\frac{2\kappa }{|2-\varphi -\sqrt{\varphi (\varphi -4)}|}$，${\varphi }_1=c_1\cdot r_1,{\varphi }_2=c_2\cdot r_2,\varphi ={\varphi }_1+{\varphi }_2$，需满足 $\varphi \ge 4,\kappa \in [0,1]$。

上述方程可以衍生出一种对种群特征值动态分析的方法。上述限制条件确保了在不需要最大速度时，使得算法可收敛于一个稳定点，$\chi \in [0,1]$ 表示速度在每次迭代时的衰减程度。参数 $\kappa$ 控制种群的探索与开发能力的平衡。当 $\kappa \approx 0$ 时，算法通过局部开发达到快速收敛，整个种群的行为几乎类似于爬坡；当 $\kappa \approx 1$ 时，算法有很高的探索能力，收敛很慢。通常， $\kappa$ 被置为一个常数，但也可动态设置。

四、同步更新与异步更新

同步更新时，最佳位置与粒子位置更新是分开进行的，一次迭代中当所有粒子更新完成后再更新最佳位置；

异步更新时，在每次有粒子位置更新后就计算新的最佳位置。

异步更新有着关于搜索空间最佳区域及时反馈的特性，而同步更新则是每迭代一次，只反馈一次信息。异步更新更适用于像 $l-best$ PSO 这种低连通性的结构，而同步更新则更适用于像 $g-best$ PSO 这样连通性高的结构。

五、速度模型

认知模型

在速度更新公式中去掉了社会部分，速度更新公式变为：$v_{ij}(t+1)=\omega \cdot v_{ij}(t)+c_1\cdot r_{1j}(t)\cdot [y_{ij}(t)-x_{ij}(t)]$
认知模型中，粒子的行为可以类比为怀旧，即粒子有回到原来最佳位置的随机趋势。相较于全模型，认知模型是脆弱的，趋向于在初始区域进行局部搜索，其在动态环境中的表现是较差。

社会模型

在速度更新公式中去掉了认知部分，速度更新公式变为：$v_{ij}(t+1)=\omega \cdot v_{ij}(t)++c_2\cdot r_{2j}(t)\cdot [{\hat{y}}_{ij}(t)-x_{ij}(t)]$

无私模型

无私模型基本上是社会模型，但是邻域最佳解只从粒子的邻域中选择。即粒子本身是不允许成为最佳邻域解的。无私模型在动态变化的环境中表现也很惨。

有关粒子群算法的其他信息，可参见其之前的两篇博客：
粒子群算法（PSO）——总体概述
粒子群算法（PSO）——算法详解（一）