
退火这个词,其实是铁匠发明的。它的意思很简单,就是将铁匠炉烧热后,再把下边的火撤掉,让金属在炉子里边慢慢冷却。
人们发现,这个缓慢的降温过程能消除金属内部的各种缺陷,使得其恢复能量最低的状态。
后来,受到退火工艺的启发,研究人员把将退火的缓慢的降温思路推广开来,用于寻找复杂函数的全局最优值。
举个简单的例子,氦原子在金属中空位附近运动时,其势能函数大概长这样:

把势能函数看成一个轨道,再把氦看成一个小球放到这个轨道上。那么,小球的高度就是它的重力势能。求这个函数的全局最小值,其实就是让小球滚到最深那个坑过程。