软件设计师考试 | 第八章 算法设计与分析 | 智能优化算法

1. 智能优化算法概述

优化技术是一种以数学为基础，用于求解各种工程问题优化解的应用技术。

20世纪80年代以来，一些新颖的优化算法，如人工神经网络、混沌、遗传算法、进化规划、模拟退火、禁忌搜索及其混合优化策略等，通过模拟或揭示某些自然现象或过程而得到发展，其思想和内容设计数学、物理学、生物进化、人工智能、神经科学和统计力学等方面，为解决复杂问题提供了新的思路和手段。

2. 人工神经网络

人工神经网络（ANN）是一个以有向图为拓扑结构的动态系统，它通过对连续或断续的输入作状态响应而进行信息处理。

人工神经网络是由许多人工神经元按一定规则连接构成的，其互连模式有许多种类，常见的一种分类是前馈网络和反馈网络。

3. 遗传算法

遗传算法是源于模拟达尔文的“优胜劣汰、适者生存”的进化论和孟德尔·摩根的遗传变异理论，在迭代过程中保持已有的结构，同时寻找更好的结构。

遗传算法是建立在自然选择和群体遗传学基础上，通过自然选择、杂交和变异实现搜索的方法。

4. 模拟退火算法

模拟退火算法（SA）是一种求解全局优化算法。

模拟退火算法的基本思想来源于物理退火过程，包括三个过程：

• 加温阶段
• 等温阶段
• 冷却阶段

5. 禁忌搜索算法

禁忌搜索算法（TS）是模拟人类智力过程的一种全局搜索算法，是对局部邻域搜索的一种扩展。

紧急搜索算法是从一个初始可行解出发，选择一系列使目标函数值减少最多的特定搜索方向作为试探，同时为了避免陷入局部最优解，禁忌搜索采用了一种灵活的“记忆”技术，即禁忌表来对已经进行的优化过程进行记录和选择，指导下一步的搜索方向。

6. 蚁群算法

蚁群算法是模拟蚂蚁在寻找食物或寻找回巢的路径中，会在它们经过的地方留下一些信息素，而信息素能被同一蚁群中后来的蚂蚁感受到，并作为一种信号影响后到者的行动，而后到者留下的信息素会对原有的信息素进行加强，并如此循环下去。这样，经过蚂蚁越多的路径，在后到蚂蚁的选择中被选中的可能性就越大。

7. 粒子群优化算法

粒子群算法的基本思想：鸟群觅食飞行中，在飞行过程中经常会突然改变方向、散开、聚集，其行为不可预测，但其整体总保持一致性，个体与个体间也保持着最适宜的距离。通过对类似生物群体进行的研究，发现生物群体中存在着一种信息共享机制，为群体的进化提供了一种优势，这就是基本粒子群算法形成的基础。

后来，有学者据此提出了粒子群优化算法（PSO）。该算法将鸟群运动模型中的栖息地类比为所求问题的解空间中可能解的位置，通过个体间的信息传递，引导整个群体向可能解的方向移动，增加发现较好解的可能性。