Decimal要从str转换以避免精度问题

最近遇到一个python的小数的问题,本来应该很简单的小于判断,无论如何都不正确,而且浮点小数都没问题,但decimal小数有问题,给我整蒙了,后来才发现是对decimal不了解所致,如果你还用float转decimal求解精确结果,那你一定要看看本文,以下是jupyter的python代码和运行结果

# 首先导入decimal模块
from decimal import Decimal

Decimal("0.000000001")
Decimal('1E-9')
# 可以看到decimal可以将 string类型转为精确小数,而且可以反向转换
Decimal("0.000000001").to_eng_string() 
'1E-9'
format(Decimal("0.00000001"), "0.8f")
'0.00000001'
# 但是有如下问题,float的如下判断是false:

0.11 < (0.1 +0.01)
False
# decimal的如下判断却是True
Decimal("0.11") < (0.1 +0.01)
True
Decimal("0.11") < Decimal(0.1 +0.01)
True
Decimal("0.11") < Decimal(0.1) + Decimal(0.01)
True
# 更为严重的是,从小数转换为decimal的结果可能与常识不符
Decimal("0.11") == Decimal(0.1) + Decimal(0.01)
False
# 注意下面的结果
Decimal(0.1 +0.01)
Decimal('0.11000000000000000055511151231257827021181583404541015625')
0.1 + 0.01
0.11
Decimal(0.1) + Decimal(0.01)
Decimal('0.1100000000000000057592819402')
Decimal("0.1") + Decimal("0.01")
Decimal('0.11')
# 所以Decimal最好从字符串转,而不是通过float转,这样会有精度问题

Decimal("0.1") + Decimal("0.01") ==  Decimal(0.1) + Decimal(0.01)
False
Decimal("0.1") + Decimal("0.01") ==  0.1 + 0.01
False
# 最后看一个实际应用对比

Decimal("0.0101") < 1*Decimal("0.0001") + Decimal("0.01")
False
Decimal("0.0101") < 1*Decimal(0.0001) + Decimal("0.01")
True
# 不过0的转换没有问题
Decimal("0") == Decimal(0)
True
Decimal()
Decimal('0')
# 和java中的BigDecimal很像,使用时都需要注意,java的bigdecimal用法可以参考: https://juejin.cn/post/7374683456729104438
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值