在计算机领域,半精度、单精度、双精度的定义,以及多精度计算和混合精度计算的区别。

文章讲述了计算机内存中浮点数的表示方式,包括半精度、单精度和双精度的位宽,以及浮点数的结构(符号位、阶码和有效数字)。接着介绍了混合精度计算的概念,这种计算策略允许在不同精度间灵活转换,以优化计算效率和结果精度。例如,两个半精度数相乘可能以单精度保存结果。
摘要由CSDN通过智能技术生成

在计算机系统的内存中,半精度是16bit,单精度是32bit,双精度是64bit.

signed bit符号位,有效数字的符号位

Exponent 阶码或者叫指数,以10^Exponent表示

Significand 有效数字,又称尾数

浮点数的表示方法:N = ±M * R ^ E

N是所要表达的浮点数

M是有效数字(尾数)

R是阶码的基数=10

E是阶码,确定了小数点的位置。

符号位1表示负数,0表示正数

比如123.45678 = 1.23456 * 10 ^ 2

符号位 = 0

M = 1.23456

R = 10

E = 2

未完续待

多精度计算:以不同精度进行计算,在需要使用高精度计算的部分使用双精度,而其他部分则使用半精度或单精度算法。

混合精度计算又称超精度计算:将算法的计算步骤细化到每步操作,每次计算都根据所需计算精度选择合适的精度,并以更高的精度保存计算结果。比如两个16bit数相乘,得到是一个32bit的结果,那么混合精度计算就会以半精度读取操作数,将两数相乘后以单精度保存计算结果。其计算结果精度和直接采用单精度运算差不多。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值