余弦退火的衰减函数

学习率会在刚开始的时候上升，加快模型的收敛速度，寻找最优点位置，到达一定step后，学习率下降，此时我们可以认为这是一个模型在微调的过程。上升采用线性上升，下降采用cos函数下降。

当我们使用梯度下降算法来优化目标函数的时候，当越来越接近Loss值的全局最小值时，学习率应该变得更小来使得模型尽可能接近这一点，而余弦退火（cosine annealing）可以通过余弦函数来降低学习率。余弦函数中随着x的增加余弦值首先缓慢下降，然后加速下降，再次缓慢下降。这种下降模式能和学习率配合，以一种十分有效的计算方式来产生很好的效果。