在计算机领域,半精度、单精度、双精度的定义,以及多精度计算和混合精度计算的区别。
混合精度计算又称超精度计算:将算法的计算步骤细化到每步操作,每次计算都根据所需计算精度选择合适的精度,并以更高的精度保存计算结果。比如两个16bit数相乘,得到是一个32bit的结果,那么混合精度计算就会以半精度读取操作数,将两数相乘后以单精度保存计算结果。多精度计算:以不同精度进行计算,在需要使用高精度计算的部分使用双精度,而其他部分则使用半精度或单精度算法。在计算机系统的内存中,半精度是16bit,单精度是32bit,双精度是64bit.Significand 有效数字。Exponent 指数。
原创
2023-02-23 11:13:29 ·
5510 阅读 ·
0 评论