给npu运行模型添加Loss scale


精度计算中使用float16数据格式数据动态范围降低, 造成梯度计算出现浮点溢出,会导致部分参数更新失败。为了保证部分模型训练在混合精度训练过程中收敛,需要配置Loss Scale的方法。

原理

  1. 通过在前向计算所得的loss乘以loss scale系数S,起到在反向梯度计算过程中达到放大梯度的作用,从而最大程度规避浮点计算中较小梯度值无法用FP16表达而出现的溢出问题。
  2. 参数梯度聚合之后以及优化器更新参数之前,将聚合后的参数梯度值除以loss scale系数S还原

主要修改点

  1. 打开loss scale
    i. 增加NPULossScaleOptimizer优化器。
    ii. 在创建NPULossScaleOptimizer之前,实例化一个FixedLossScaleManager类进行指定Loss Scale的值,或者实例化一个ExponentialUpdateLossScaleManager类进行动态Loss Scale的配置。

  2. 更新global step
    在开启Loss Scaling后,需要丢弃Loss Scaling溢出的step(具体需要看使用的优化器的更新step逻辑)

  3. 打印loss scale值
    sess.run模式下,可以通过get_tensor_by_name,通过tensor名称获取需要打印数据的tensor,然后把tensor作为sess.run的入参传进去,计算得到具体loss_scale值。
    loss scale值是根据算子名称打印的,如果用户使用了scope等指定网络中部分算子的名称,则该hook需要相应更改为需要获取的算子名称。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值