Golang使用Decimal库避免运算中精度损失


前言

我们在项目中涉及到数值计算时,如果直接使用golang的运算符,会造成精度的损失,例如:

a := 1136.1
b := a * 100
fmt.Println(b) // 正确结果应该是 113610 但输出 113609.99999999999

c := 1.7
fmt.Println(a - c) // 正确结果应该是 1134.4 但输出 1134.3999999999999
fmt.Println(b - c) // 正确结果应该是 113608.3 但输出 113608.29999999999

那么如何避免这种情况呢?golang中没有提供对于精度运算相应的包。这里需要用到第三方的decimal包了。


一、Decimal库是什么?

是一个第三方提供的用于go程序数值计算时避免精度损失的包,引用官方的描述:

Arbitrary-precision fixed-point decimal numbers in go.

Note: Decimal library can "only" represent numbers with a maximum of 2^31 digits after the decimal point.

注意这里有个Note:Decimal库“只能”表示小数点后最多2^31位的数字。当然,这对于绝大部分项目来说足够了。

二、使用步骤

1.引入库

下载包:

go get github.com/shopspring/decimal

go代码中引入包:

import "github.com/shopspring/decimal"

2.Decimal库的使用

使用decimal后,上面例子的代码就应该这样写:

package main

import (
	"fmt"
	"github.com/shopspring/decimal"
)

func main() {
	a := decimal.NewFromFloat(1136.1)
	b := a.Mul(decimal.NewFromInt(100))
	fmt.Println(b) // 正确输出 113610

	c := decimal.NewFromFloat(1.7)
	fmt.Println(a.Sub(c)) // 正确输出 1134.4
	fmt.Println(b.Sub(c)) // 正确输出 113608.3
}

之后对于各种数字的计算就会变得得心应手:

package main

import (
	"fmt"
	"github.com/shopspring/decimal"
)

func main() {
	a := decimal.NewFromFloat(1.52)
	b := decimal.NewFromFloat(0.02)

	// 加减乘除运算
	c := a.Add(b) // 1.52 + 0.02 = 1.54
	d := a.Sub(b) // 1.52 - 0.02 = 1.5
	e := a.Mul(b) // 1.52 * 0.02 = 0.0304
	f := a.Div(b) // 1.52 / 0.02 = 76
	fmt.Println(a, b, c, d, e, f)

	// 对于保留小数的处理
	pi := decimal.NewFromFloat(3.1415926535897932384626)
	pi1 := pi.Round(3)    // 对pi值四舍五入保留3位小数
	fmt.Println(pi1)       // 3.142
	pi2 := pi.Truncate(3) // 对pi值保留3位小数之后直接舍弃
	fmt.Println(pi2)       // 3.141
}

对于数值变量类型的转换也游刃有余了:

var a float64
var b = "69.77"
var c int64

d, err := decimal.NewFromString(b)
if err != nil {
	fmt.Println(err.Error())
}

a, _ = d.Float64()
fmt.Println(a) // float64 69.77

c = d.IntPart() // 舍去小数取整
fmt.Println(c)  // int64 69

b = decimal.NewFromInt(c).String()
fmt.Println(b) // string 69

c = d.Round(0).IntPart() // 不保留小数四舍五入取整
fmt.Println(c)           // int64 70

这里列出一些常用的方法:

n1 := decimal.NewFromFloat(-1.23)
n2 := decimal.NewFromInt(3)
n3, _ := decimal.NewFromString("0")

n1.Abs()                  // 取绝对值
n1.Equal(n2)              // n1 是否与 n2 相等
n1.LessThan(n2)           // n1 是否小于 n2
n1.LessThanOrEqual(n2)    // n1 是否小于或等于 n2
n1.GreaterThan(n2)        // n1 是否大于 n2
n1.GreaterThanOrEqual(n2) // n1 是否大于或等于 n2
n3.IsZero()               // n3 是否为0

总结

Decimal库会给我们项目中用到数值计算时提供极大的便利和安全性。
最后需要注意的一点是,使用Decimal库的变量数据类型全部为decimal.Decimal,同样decimal.Decimal也可以作为声明变量时的数据类型使用,所以记得在最后做变量赋值时转换为需要的数据类型。

package main

import (
	"fmt"
	"github.com/shopspring/decimal"
	"reflect"
)

func main() {
	n1 := decimal.NewFromFloat(3.14)
	var n2 string
	var n3 float64
	var n4 int64
	var n5 decimal.Decimal

	n2 = n1.String()
	n3, _ = n1.Float64()
	n4 = n1.IntPart()

	fmt.Printf("n1 = %v, type = %v\n", n1, reflect.TypeOf(n1).String())
	// n1 = 3.14, type = decimal.Decimal
	fmt.Printf("n2 = %v, type = %v\n", n2, reflect.TypeOf(n2).String())
	// n2 = 3.14, type = string
	fmt.Printf("n3 = %v, type = %v\n", n3, reflect.TypeOf(n3).String())
	// n3 = 3.14, type = float64
	fmt.Printf("n4 = %v, type = %v\n", n4, reflect.TypeOf(n4).String())
	// n4 = 3, type = int64
	fmt.Printf("n5 = %v, type = %v\n", n5, reflect.TypeOf(n5).String())
	// n5 = 0, type = decimal.Decimal
}
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

eRain

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值