【机器学习】 模拟退火算法

【爬山算法】
爬山算法是一种贪心搜索算法，该算法每一步从当前解的临近解空间中选择一个最优解作为当前解，直至达到某个局部最优解。

【模拟退火算法】
模拟退火算法也是一种贪心算法，但在它的搜索过程中引入了一个随机因素——以一定的概率来接受一个比当前解要差的解。故而模拟退火算法有可能跳出局部的最优解，达到全局的最优解。即：若移动后得到最优解，则总是接受该移动；若移动后的解比当前解差，则以一定的概率接受移动，而且这个概率随时间推移而逐渐降低。

优点：迭代搜索效率高，并且可以实现并行化；算法中有一定概率接受比当前解较差的解，因此可以在一定程度上跳出局部最优；算法求得的解与初始解状态S无关，因此具有一定的鲁棒性；具有渐近收敛性，是一种收敛于全局最优解的全局优化算法。

缺点：只有合适的参数才能在一定的时间内很大概率跑出最优解。

参考：
https://blog.csdn.net/qq_30981697/article/details/70032094?locationNum=9&fps=1
https://blog.csdn.net/baimafujinji/article/details/52573630
http://blog.jobbole.com/108559/
https://blog.csdn.net/baimafujinji/article/details/6474567
https://blog.csdn.net/google19890102/article/details/45395257
https://blog.csdn.net/daaikuaichuan/article/details/81381875