在计算机领域,半精度、单精度、双精度的定义,以及多精度计算和混合精度计算的区别。

在计算机系统的内存中,半精度是16bit,单精度是32bit,双精度是64bit.

signed bit符号位,有效数字的符号位

Exponent 阶码或者叫指数,以10^Exponent表示

Significand 有效数字,又称尾数

浮点数的表示方法:N = ±M * R ^ E

N是所要表达的浮点数

M是有效数字(尾数)

R是阶码的基数=10

E是阶码,确定了小数点的位置。

符号位1表示负数,0表示正数

比如123.45678 = 1.23456 * 10 ^ 2

符号位 = 0

M = 1.23456

R = 10

E = 2

未完续待

多精度计算:以不同精度进行计算,在需要使用高精度计算的部分使用双精度,而其他部分则使用半精度或单精度算法。

混合精度计算又称超精度计算:将算法的计算步骤细化到每步操作,每次计算都根据所需计算精度选择合适的精度,并以更高的精度保存计算结果。比如两个16bit数相乘,得到是一个32bit的结果,那么混合精度计算就会以半精度读取操作数,将两数相乘后以单精度保存计算结果。其计算结果精度和直接采用单精度运算差不多。

  • 0
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值