golang中的浮点数运算-精度运算
浮点数的存储都不是精确的,比如0.1
可能会存储为0.10000000001
或者0.999999999998
,所以浮点数一般是没法直接比较的,比如:
var v1 = 0.1
var v2 = 0.2
var v3 = 0.3
fmt.Println(v1 + v2 == v3) // false
在比如:
var v = 67.6
fmt.Println(int64(v * 100)) // 输出结果为:6759
但是我们在实际业务中又不得不和浮点数打交道,因此基本上每个编程语言都有其对应的高精度库。说白了,就是在一定的精度规则下,将浮点数转换成整型来运算,比如,设定精确到小数点后两位。
golang中的高精度计算包 github.com/shopspring/decimal
于是上面的例子可以修改为:
v1 := decimal.NewFromFloat(0.1)
v2 := decimal.NewFromFloat(0.2)
v3 := decimal.NewFromFloat(0.3)
fmt.Println(v1.Add(v2).Equal(v3)) // true
f1 := decimal.NewFromFloat(67.6)
f2 := decimal.NewFromFloat(100)
fmt.Println(f1.Mul(f2).IntPart()) // 6760
四舍五入
val, _ = decimal.NewFromFloat(score).Round(2).Float64()