图解粒子群优化算法(PSO)

PSO:particle swarm optimization
注：以下的鸟就是粒子。

总体思想

有若干只鸟$x_i$，位置可能各不相同，但是每只鸟需要记录下自己的个体历史最优解$pbes{t}_i$，并分享给大家，在这些个体历史最优解中，记最优的那个为全局最优解$gbest$。然后，每只鸟都根据$pbes{t}_i$和$gbest$来调整自己的位置，其实就是希望在这两者的中间部分搜寻。

算法双要素

每只鸟都有一个位置$x$和速度$v$，其中$v$由$pbes{t}_i$和$gbest$决定，$x$由$v$决定。

1. 我们先说$x$如何由$v$决定。假设当前某只鸟的位置$x$和速度$v$如下：

则这只鸟的下一个位置为：
$x=x+v$
即：

2. 我们再说$v$如何由$pbes{t}_i$和$gbest$决定。假设当前某只鸟的位置$x_i$、速度$v_i$、该鸟的个体历史最优解$pbes{t}_i$，以及鸟群的全局最优解$gbest$如下。(注：$x_i$等等三个也和$v_i$一样，是一个向量，只是没显式地画出来而已。）

按照我们之前的思想，我们希望这只鸟既靠近$pbes{t}_i$又靠近$gbest$，那么综合一下，就是往他们的中间方向靠近。

即做两个向量差，如下：

然后这两个向量加权相加，比如$y=0.1y_1+0.2y_2$，随便你设置，假设我们相加后的$y$是这样的。

然后我们再进行$v_i$的更新，即$v_i=v_i+y$。即根据向量的加法得到红色的新$v_i$。

至此$v_i$的更新完毕了，最后一步我们也一起做完吧。即$x_i=x_i+v_i$。如下图，我们得到了新的粗蓝色新的$x_i$。

总结

PSO算法的标准形式：

在每只鸟分享完信息之后，先按公式1更新速度(下面的3个向量相加和我们上面的图解一模一样)，然后按照公式2更新位置。

其中：



这个解释一下，如果$v_i^{{}^{\prime }}=v_i+y$，如果$v_i^{{}^{\prime }}$的长度太大了，那么保留这个$v_i^{{}^{\prime }}$的方向，但是截断其长度，使其为$v_{max}$的长度。

扩展

标准的PSO算法是上述公式（3）和公式（2），因为其引入了惯性因子$w$，使得算法相对之前，更加灵活可变，成了标准。

上述其值较大，全局寻优能力强等等那里的分析，联系一下我们上面的图，向量相加那里，立马就能够理解了（全局寻优能力强就是迭代之后新的$x_i$远远飞离现有的3个点：旧的$x_i,pbes{t}_i,gbest$，反之，如果迭代之后很靠近这三个点，就是局部寻优）

参考：
https://blog.csdn.net/daaikuaichuan/article/details/81382794