一、概念
混合精度 : fp16 和 fp32
fp16 : 16位浮点数(float16)
fp32 : 32位浮点数 (float32)
二、为什么使用混合精度
fp16 :提高性能( 速度快、内存占用小)
fp32 : 数值稳定性
三、如何使用
1、使用手册(官方文档)
混合精度 : fp16 和 fp32
fp16 : 16位浮点数(float16)
fp32 : 32位浮点数 (float32)
fp16 :提高性能( 速度快、内存占用小)
fp32 : 数值稳定性
1、使用手册(官方文档)