原 PyTorch学习之六个学习率调整策略.图示

How to adjust Learning Rate

• torch.optim.lr_scheduler.LambdaLR
• torch.optim.lr_scheduler.StepLR
• torch.optim.lr_scheduler.MultiStepLR
• torch.optim.lr_scheduler.ExponentialLR
• torch.optim.lr_sheduler.CosineAnneaingLR
• torch.optim.lr_scheduler.ReduceLROnPlatea
• torch.optim.lr_scheduler.CyclicLR

参考:https://www.jianshu.com/p/a20d5a7ed6f3

PyTorch学习率调整策略通过torch.optim.lr_scheduler接口实现。PyTorch提供的学习率调整策略分为三大类，分别是

    a. 有序调整：等间隔调整(Step)，按需调整学习率(MultiStep)，指数衰减调整(Exponential)和 余弦退火CosineAnnealing。
    b. 自适应调整：自适应调整学习率 ReduceLROnPlateau。
    c. 自定义调整：自定义调整学习率 LambdaLR。

1 等间隔调整学习率 StepLR

等间隔调整学习率，调整倍数为 gamma 倍，调整间隔为 step_size。间隔单位是step。需要注意的是， step 通常是指 epoch，不要弄成 iteration 了。

torch.optim.lr_scheduler.StepLR(optimizer, step_size, gamma=0.1, last_epoch=-1)

参数：

    step_size(int)- 学习率下降间隔数，若为 30，则会在 30、 60、 90…个 step 时，将学习率调整为 lr*gamma。
    gamma(float)- 学习率调整倍数，默认为 0.1 倍，即下降 10 倍。
    last_epoch(in