- 博客(1)
- 收藏
- 关注
原创 Pytorch反向传播与梯度累积
pytorch可以通过设置参数requires_grad=True实现梯度的自动计算,通过优化器实现反向传播。通过梯度累积实现计算梯度与梯度更新之间的分离,解决batch size较大时计算资源不够的问题。
2022-08-09 11:44:46 945 1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
pytorch可以通过设置参数requires_grad=True实现梯度的自动计算,通过优化器实现反向传播。通过梯度累积实现计算梯度与梯度更新之间的分离,解决batch size较大时计算资源不够的问题。
2022-08-09 11:44:46 945 1
TA创建的收藏夹 TA关注的收藏夹
TA关注的人