浮点数转16进制-IEEE 754标准

历史背景

IEEE 754 标准的建立是为了为浮点运算创建一个统一的标准。在 IEEE 754 之前,不同的计算机和计算器可以不同地表示浮点数,导致从一个系统移动到另一个系统时计算中的不一致和错误。

IEEE 754标准

一个浮点数 (Value) 可以这样表示:浮点数的实际值,等于符号位(sign bit)乘以指数偏移值(exponent bias)再乘以分数值(fraction),没错,就是科学计数法。

IEEE 754 半精度浮点数:16 位符号 1 位,指数 5 位,尾数 10 位
IEEE 754 单精度浮点数:32 位符号 1 位,指数 8 位,尾数 23 位
IEEE 754 双精度浮点数:64 位符号 1 位,指数 11 位,尾数 52 位

半精度浮点数 16 bit 浮点数计算过程示例:
在这里插入图片描述

在线转换工具

IEEE 754 浮点数在线转换工具

计算方式

彻底搞懂float16与float32的计算方式

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值