pytorch
文章平均质量分 96
云朵不吃雨
这个作者很懒,什么都没留下…
展开
-
pytorch-scheduler(调度器)
scheduler(调度器)是一种用于调整优化算法中学习率的机制。学习率是控制模型参数更新幅度的关键超参数,而调度器根据预定的策略在训练过程中动态地调整学习率。优化器负责根据损失函数的梯度更新模型的参数,而调度器则负责调整优化过程中使用的特定参数,通常是学习率。调度器通过调整学习率帮助优化器更有效地搜索参数空间,避免陷入局部最小值,并加快收敛速度。调度器允许实现复杂的训练策略,学习率预热、周期性调整或突然降低学习率,这些策略对于优化器的性能至关重要。学习率绘图函数。原创 2024-07-26 22:41:27 · 1031 阅读 · 0 评论 -
Pytorch-API:混合精度计算(AMP)
API最后还列举了一些CUDA/CPU数据类型的可转换介绍,详细可访问链接。翻译 2024-05-18 23:11:15 · 224 阅读 · 0 评论