模拟退火算法

算法简介

模拟退火算法(Simulated Annealing，SA)最早的思想是由N. Metropolis [1] 等人于1953年提出。1983 年,S. Kirkpatrick 等成功地将退火思想引入到组合优化领域。它是基于Monte-Carlo迭代求解策略的一种随机寻优算法，其出发点是基于物理中固体物质的退火过程与一般组合优化问题之间的相似性。模拟退火算法从某一较高初温出发，伴随温度参数的不断下降,结合概率突跳特性在解空间中随机寻找目标函数的全局最优解，即在局部最优解能概率性地跳出并最终趋于全局最优。模拟退火算法是一种通用的优化算法，理论上算法具有概率的全局优化性能,目前已在工程中得到了广泛应用，诸如VLSI、生产调度、控制工程、机器学习、神经网络、信号处理等领域。
模拟退火算法是通过赋予搜索过程一种时变且最终趋于零的概率突跳性，从而可有效避免陷入局部极小并最终趋于全局最优的串行结构的优化算法。

模拟退火算法是一种启发式算法。 通过不断的迭代当前解在周围找到问题的最优解。

完整的模拟退火过程是模拟热力学的退火过程，随着温度的不断下降（本质上是随着迭代次数的增多，发生跳转的概率越来越小的过程），算法将在多项式的时间内找到问题的近似全局最优解（有可能还是局部最优解）。

算法步骤

这里面与爬坡法最大的区别是在算法步骤10中， 当不满足爬坡条件的时候，仍然以一定的概率接受接受新值；当温度较高的时候概率越大，也就更容易跳出局部极值点，而随着温度慢慢下降，慢慢的也收敛到全局极值点。