引言
下面的一段简单程序 0.3 + 0.6 结果是什么?
1 var f1 float64 = 0.3
2 var f2 float64 = 0.6
3 fmt.Println(f1 + f2)
有人会天真的认为是0.9,但实际输出却是0.8999999999999999(go 1.13.5)
问题在于大多数小数表示成二进制之后是近似且无限的。
以0.1为例。它可能是你能想到的最简单的十进制之一,但是二进制看起来却非常复杂:0.0001100110011001100…
其是一串连续循环无限的数字(涉及到10进制转换为2进制,暂不介绍)。
结果的荒诞性告诉我们,必须深入理解浮点数在计算机中的存储方式及其性质,才能正确处理数字的计算。
golang 与其他很多语言(C、C++、Python…)一样,使用了IEEE-754标准存储浮点数。
IEEE-754 如何存储浮点数
IEEE-754规范使用特殊的以2为基数的科学表示法表示浮点数。
32位的单精度浮点数 与 64位的双精度浮点数的差异
符号位:1 为 负数, 0 为正数。
指数位:存储 指数加上偏移量,偏移量是为了表达负数而设计的。
小数位:存储系数的小数位的准确或者最接近的值。
以 数字 0.085 为例。
小位数的表达方式
以0.36 为例:
010 1110 0001 0100 0111 1011 = 0.36 (第一位数字代表1/2,第二位数字是1/4…,0.36 是所有位相加)
分解后的计算步骤为:
go语言显示浮点数 - 验证之前的理论
接下来用一个案例有助于我们理解并验证IEEE-754 浮点数的表示方式。
math.Float32bits 可以为我们打印出32位数据的二进制表示。(注:math.Float64bits可以打印64位数据的二进制)
下面的go代码将输出0.085的浮点数二进制表达,并且为了验证之前理论的正确性,根据二进制表示反向推导出其所表示的原始十进制0.085