异同点 模拟退火 遗传算法 邻域搜索_智能算法浅介----模拟退火，遗传算法，禁忌搜索，神经网络等...

本文讲的过于笼统，如果想真正理解，请参考：

智能算法浅介----By cooler

一个比方

在工程实践中，经常会接触到一些比较“新颖的算法”如模拟退火，遗传算法，禁忌搜索，神经网络等。这些由于有一些共同的特性(比如都是模拟了自然过程)，通称为“智能算法”。它们在解决一些复杂的工程问题时大有用武之地。

这些算法都有什么含义？首先给出个局部搜索，模拟退火，遗传算法，禁忌搜索的形象比喻：

为了找出地球上最高的山，一群有志气的兔子们开始想办法。

1．兔子朝着比现在高的地方跳去。他们找到了不远处的最高山峰。但是这座山不一定是珠穆朗玛峰。这就是局部搜索，它不能保证局部最优值就是全局最优值。

(更好的比喻?)2．兔子喝醉了。他随机地跳了很长时间。这期间，它可能走向高处，也可能踏入平地。但是，他渐渐清醒了并朝最高方向跳去。这就是模拟退火。

3．兔子们吃了失忆药片，并被发射到太空，然后落到了地球上地任意地方。他们不知道自己的使命是什么。但是，如果你过几年就杀死一部分海拔底的兔子，多产的兔子们自己就会找到珠穆朗玛峰。这就是遗传算法。

4.兔子们知道一个兔的力量是渺小的。他们互相转告着，哪里的山已经找过，并且找过的每一座山他们都留下一只兔子做记号。他们制定了下一步去哪里寻找的策略。这就是禁忌搜索。

智能优化算法的概述

智能优化算法主要解决最优化问题。最优化问题主要分为函数优化问题和组合优化问题。函数优化问题主要是求解一个函数中，使得函数值最小的自变量的取值。组合优化问题是指在一个解空间里面，寻找最优解，使目标函数值最小。典型的组合优化问题有：旅行商问题(traveling salesman problem，TSP)，加工调度问题(schedulingproblem)，0－1背包问题(knapsack problem)，以及装箱问题(bin

packing problem)等。

优化算法有很多，经典的有线性规划，动态规划等，改进型的局部搜索有爬山法，最速下降法等，这里介绍的模拟退火，遗传算法，以及禁忌搜索称作指导性搜索法。

而神经网络，混沌搜索是基于系统动态演化的方法。(如图1)

图1

优化思想里面经常提到邻域函数，它的作用是给出怎样由当前解得到一个(组)新的解。其具体实现方式要根据具体问题分析来定。

一般的，局部搜索就是基于贪婪思想利用邻域函数进行搜索，找到一个比现在好的值就放弃现在的而取之。但是，它一般只可以得到“局部极小解”，就是说，可能这只

兔子登“登泰山而小天下”，但是却没有找到珠穆朗玛峰。而模拟退火，遗传算法，禁忌搜索，神经网络等从不同的角度和策略实现了改进，取得较好的“全局最小解”。

模拟退火算法(Simulated Annealing，SA)

模拟退火算法的依据是固体物质退火过程和组合优化问题之间的相似性。物质在加热的时候，粒子间的布朗运动增强，到达一定强度后，固体物质转化为液态，这个时候再进行退火，粒子热运动减弱，并逐渐趋于有序，最后达到稳定。

模拟退火的解不再像局部搜索那样最后的结果依赖初始点。它引入了一个接受概率p。如果新的点目标函数更好，则p=1，表示选取新点；否则，接受概率p是当前点，新点的目标函数以及另一个控制参数“温度”T的函数。也就是说，模拟退火没有像局部搜索那样每次都贪婪地寻找比现在好的点，目标函数差一点的点也有可能接受进来。随着算法的执行，系统温度T逐渐降低，最后终止于不再有可接受变化的低温。

模拟退火的典型特征是除了接受目标函数的改进外，还接受一个衰减极限，当T较大时，接受较大的衰减，当T逐渐减小时，接受较小的衰减，当T为0时，就不再接受衰减。这一特征意味着模拟退火与局部搜索相反&#