机器学习实战应用案例100篇（一）-粒子群优化算法(PSO)从原理到实战应用案例（附代码）

粒子群优化算法(原理)

1 粒子群算法简介

完整代码详见机器学习实战应用案例-粒子群优化算法(PSO)实战应用案例

粒子群算法(Particle swarm optimization, PSO)是一种仿生算法，它是一种 在求解空间中寻找最优解 的简单算法。它与其他优化算法的不同之处在于，它只需要 目标函数，不依赖于目标的梯度或任何微分形式。它也有很少的超参数。

粒子群算法是由Kennedy和Eberhart在1995年提出的。正如在最初的论文中提到的，社会生物学家认为一群鱼或一群鸟在一个群体中移动，可以从所有其他成员的经验中获益。

换句话说，当一只鸟在空中随机寻找食物时，鸟群中的所有鸟都可以 分享 他们的发现，并帮助整个鸟群获得最佳狩猎。

PSO算法将待解决的 优化问题看作是鸟群捕食的过程，其 飞行空间 即为优化问题的解空间，而 捕食空间 中的 1个粒子，即为待解决的 1个解。

具体来说，在某一 D维空间 的目标搜索空间中，有一个种群大小为M的粒子群，其中第i个粒子在t时刻的状态由