最优检索问题 使用计算机,科学网—求解优化问题常用的搜索方法 - 罗佳的博文...

计算机在求解优化问题时，即是对问题的可行解空间进行搜索，而按照搜索策略的不同，常用的搜索算法可以分为以下4类。

1、枚举法：对整个可行解空间所有点的性能都进行比较并找出最优点。枚举法简单，但计算量大，且只能用于可行解空间是有限集合的情形。典型的枚举法有动态规划和分支定界法。

2、解析法：在搜索过程中主要使用目标函数的解析性质，如一阶导数、二阶导数等(即要求函数具有连续可导的性质)。解析法根据目标函数的梯度方向来确定下一步搜索的方向。解析法中“最速下降(上升)”策略，即沿最陡的方向爬向一个局部最优点。但当目标函数有多个极值点时，解析法难以找到全局最优点。主要解析法有Newton法、共轭梯度法等。

3、直接法：当目标函数较为复杂或者不能用变量显函数描述时，无法用解析法求必要条件。此时可以采用直接搜索的方法经过若干次迭代搜索到最优点。这种方法常常根据经验或通过实验得到所需结果。主要的直接法有：爬山法、Powell算法、单纯形法等。

4、随机法：随机法是在直接法的基础上，在搜索过程中对搜索方向引入随机的变化，使得算法在搜索过程中以较大的概率跳出局部极值点。随机法可分为盲目随机法和导向随机法。盲目随机法在可行解空间中随机地选择不同的点进行检测。导向随机法以一定的概率(与当前搜索到的最优解的好坏程度和搜索时间有关)改变当前的搜索方向，在其他方向上进行搜索。导向随机法有进化搜索法、模拟退火、禁忌搜索等。

5、群体智能算法：模拟自然界生物的群体行为(群体中的个体通过相互学习、相互竞争，从而共同进化的行为)来构造随机优化算法。典型的群体智能优化算法有粒子群优化算法、蚁群优化算法、头脑风暴算法等。

枚举法一般用于求解整数规划或组合优化问题。解析法用于非线性规划问题，但除凸规划问题外，一般只能求得局部最优解。直接法容易陷入局部最优解。随机法、群体智能算法适用于所有问题，此类算法注重解得多样性与收敛速度的平衡，所求得的结果无法验证是否为最优，智能通过实验得出相对较好的解。

转载本文请联系原作者获取授权，同时请注明本文来自罗佳科学网博客。

链接地址：http://blog.sciencenet.cn/blog-3421244-1204898.html

上一篇：粒子群优化算法改进的几个方面

下一篇：【汇总】车辆路径问题中常用的测试集