「深度学习之优化算法」笔记（三）之粒子群算法

1. 粒子群算法简介

粒子群算法（Particle Swarm Optimization,PSO）是一种模仿鸟群、鱼群觅食行为发展起来的一种进化算法。其概念简单易于编程实现且运行效率高、参数相对较少，应用非常广泛。粒子群算法于1995年提出，距今（2019）已有24年历史。

  粒子群算法中每一个粒子的位置代表了待求问题的一个候选解。每一个粒子的位置在空间内的好坏由该粒子的位置在待求问题中的适应度值决定。每一个粒子在下一代的位置有其在这一代的位置与其自身的速度矢量决定，其速度决定了粒子每次飞行的方向和距离。在飞行过程中，粒子会记录下自己所到过的最优位置 Ｐ，群体也会更新群体所到过的最优位置Ｇ 。粒子的飞行速度则由其当前位置、粒子自身所到过的最优位置、群体所到过的最优位置以及粒子此时的速度共同决定。