torch.optim.lr_scheduler.OneCycleLR

最新推荐文章于 2024-06-29 20:04:29 发布

笔下万码生谋略

最新推荐文章于 2024-06-29 20:04:29 发布

阅读量986

点赞数 1

CC 4.0 BY-SA版权

文章标签： pytorch 深度学习 python

本文链接：https://blog.csdn.net/weixin_47707533/article/details/124550897

这段代码展示了如何在PyTorch中使用OneCycleLR学习率调度器。它导入必要的库，定义了一个线性模型，设置SGD优化器和一周期学习率调度器，然后在循环中更新模型参数并记录学习率变化。最后，通过matplotlib绘制学习率的变化曲线。

1.引入库

代码如下（示例）：

import matplotlib.pyplot as plt
import os
os.environ['KMP_DUPLICATE_LIB_OK'] = 'TRUE'

2.读入数据

代码如下（示例）：

import matplotlib.pyplot as plt
import os
os.environ['KMP_DUPLICATE_LIB_OK'] = 'TRUE'
model = torch.nn.Linear(2, 1)
optimizer = torch.optim.SGD(model.parameters(), lr=0.1)
scheduler = torch.optim.lr_scheduler.OneCycleLR(optimizer, max_lr=0.1, steps_per_epoch=2, epochs=10)
lrs = []


for i in range(20):
    optimizer.step()
    lrs.append(optimizer.param_groups[0]["lr"])
#     print("Factor = ",i," , Learning Rate = ",optimizer.param_groups[0]["lr"])
    scheduler.step()

plt.plot(lrs)
plt.show()