golang中的浮点数运算-精度运算,decimal

golang中的浮点数运算-精度运算

浮点数的存储都不是精确的,比如0.1可能会存储为0.10000000001或者0.999999999998,所以浮点数一般是没法直接比较的,比如:

var v1 = 0.1
var v2 = 0.2
var v3 = 0.3
fmt.Println(v1 + v2 == v3) // false

在比如:

var v = 67.6  
fmt.Println(int64(v * 100)) // 输出结果为:6759

但是我们在实际业务中又不得不和浮点数打交道,因此基本上每个编程语言都有其对应的高精度库。说白了,就是在一定的精度规则下,将浮点数转换成整型来运算,比如,设定精确到小数点后两位。

golang中的高精度计算包 github.com/shopspring/decimal

于是上面的例子可以修改为:

v1 := decimal.NewFromFloat(0.1)
v2 := decimal.NewFromFloat(0.2)
v3 := decimal.NewFromFloat(0.3)
fmt.Println(v1.Add(v2).Equal(v3)) // true

f1 := decimal.NewFromFloat(67.6)
f2 := decimal.NewFromFloat(100)
fmt.Println(f1.Mul(f2).IntPart()) // 6760

四舍五入

val, _ = decimal.NewFromFloat(score).Round(2).Float64()
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值