初探粒子群优化算法（PSO）

粒子群算法matlab实现：点击这里

粒子群优化算法简介

粒子群优化算法（PSO）最初是由Kennedy和Eberhart博士于1995年受人工生命研究的结果启发，在模拟鸟群觅食过程中的迁徙和群集行为时提出的一种基于群体智能的演化计算技术。
PSO是一种随机全局优化技术，通过粒子间的相互作用发现复杂搜索空间中的最优区域。由于PSO算法独特的优势，在工程领域中收到研究者的广泛关注。
PSO算法归根到底是一种利用随机法求多维函数特定区域的最值的算法。

PSO的优点

（1）相对于其他寻优算法，需要调整的参数较少。
（2）算法实现较为简单，效率较高。
（3）鲁棒性较好。
（4）相对于其他寻优算法，PSO容易收敛。

PSO的缺点

（1）易陷入局部最优解中
（2）难以得到精确的最优解
（3）PSO的机理性研究较少，缺乏严密的数学指导。

因此PSO算法适用于处理高维的，具有多个局部最优解的，对结果精确性要求不高的优化问题。

PSO的原理及基本概念

PSO的原理是模仿鸟群觅食的原理：
单个鸟→单个粒子
鸟群→有许多粒子组成的粒子群
鸟群的觅食行为→粒子群通过一定规律的随机运动，搜寻区域内的最优解

算法描述

在D维区域里存在m个粒子
其中第i个粒子的位置为一个矢量：x_i={x_i1 , x_i2 , x_i3…x_iD}
其中第i个粒子的速度为一个矢量：v_i={v_i1 , v_i2 , v_i3 …v_iD}
第i个粒子搜索到的最优位置为：p_i={p_i1 , p_i2 , p_i3 …p_iD}
整个粒子群搜索到的最优位置为：p_gbest={p_gbest1 , p_gbest2 , p_gbest3 …{p_gbestD}

第i个粒子在k次迭代时的速度为：
$$v_{id}^{k+1}=\omega v_{id}^k+c_1{r}_1(p_{id}-x_{id}^k)+c_2{r}_2(p_{gbestd}-x_{id}^k)$$
其中i = 1,2,3…m ; d = 1,2,3…D
ω成为惯性参数；c₁,c₂称为学习因子，是一个正常数；r₁,r₂为随机数；等号右边的三项分别是：历史速度的记忆、认知部分、社会部分。

位置更新公式：
$$x_{id}^{k+1}=x_{id}^k+v_{id}^{k+1}$$
每次更新的速度控制在一个最大速度v_max以下。

算法流程：

算法终止条件有两种：
（1）达到最大迭代步数
（2）得到可接受的满意解

参数分析

（1）惯性参数ω：
ω代表对原先速度的记忆程度，依据原先的速度进行惯性运动。
较大的ω使粒子更易跳出局部最优解，获得更强的全局寻优能力，但也会使效率降低，不宜收敛；较小的ω容易陷入局部最优解，但更易收敛。

当问题空间较大时，ω不应为一个常数。在前期可以使ω较大以获得更强的全局寻优能力，后期ω变小可以提高收敛速度。这个功能可以由线性递减权值公式实现：
$$\omega ={\omega }_{max}-({\omega }_{max}-{\omega }_{min})\ast \frac{run}{ru{n}_{max}}$$
（2）学习因子c₁,c₂：
c₁,c₂分别代表粒子动作来自认知部分和社会部分的权重。
c₁=0时，为无私型粒子群算法，丧失群体多样性，容易陷入局部最优解。
c₂=0时，为自私型粒子群算法，没有信息的社会共享，收敛速度减慢。
c₁>c₂>0时，适用于多峰优化问题。
c₂>c₁>0时，适用于单峰优化问题。

自适应或动态加速度系数是基于迭代次数对两个系数进行动态调节。其中c₁随代数增加而减小，c₂随代数增加而增大。

$$c_1=(c_{1f}-c_{1i})\frac{t}{T_{MAX}}+c_{1i}$$

$$c_2=(c_{2f}-c_{2i})\frac{t}{T_{MAX}}+c_{2i}$$
其中$t$和$T_{MAX}$分别为迭代轮数和最大迭代轮数。
实验建议：c_1f=0.5,c_1i=2.5;c_2f=2.5,c_2i=0.5

（3）粒子的最大速度v_max
粒子最大速度：维护算法探索能力和开发能力的平衡。速度增大，粒子的探索能力增强，但容易飞过最优解。速度减小，开发能力较大，但容易陷入局部最优。

粒子群的拓扑结构

一种是将群体中所有粒子都作为粒子的邻域，这样的结构叫做全局粒子群算法。这种结构下，粒子的认知部分是自己的历史最优解；社会部分是粒子全体的全局最优值。
另一种是将群体中的部分个体作为粒子的邻域，这样的结构叫做局部粒子群算法。这种结构下，粒子的认知部分是自己的历史最优解；社会部分是粒子邻域内的全局最优值。

全局粒子群算法的收敛能力更强，但容易陷入局部最优解；局部粒子群算法全局寻优能力更强，但收敛速度较慢。

初始化时的前人经验

粒子数一般取20-40，对较难或特定类别的问题可以取100-200。
最大速度通常设定为粒子的范围宽度。
将c₁和c₂统一为一个控制参数φ=c₁+c₂。当φ=4.1时具有良好的收敛效果。
ω=0.7298和c₁=c₂=1.497时算法有较好的收敛性能。