Python中的浮点数与decimal

今天遇到了Python浮点数处理的一个问题:
比如,如果在代码中这样写:

print 23.53 + 17.64 + 5.88

输出 47.05, 这是正确的

但是,在Python Shell中,却得到了这样一个结果:

>>> 23.53 + 17.64 + 5.88
47.050000000000004

在实际的项目中,如果我们要计算这样一个东西并把它存在数据库中,

那么存的实际上是一个后者所示的小数位很多的浮点数。而并不是我们认为的前者所示的数
print输出的时候,实际上也对浮点数进行了舍入
一个更好的例子:

x = 0.0
for i in range(100):
  x += 0.1
print("%.17lf" % x) #=> 9.99999999999998046
print(x) #=> 99.1,print 自动舍入,得到了看似正确的结果

解决这个问题的方法是使用decimal模块

基本思想是:因为float类型无法在任意指定的小数位上保持精确,所以不用float表示浮点数
而是用str保存浮点数
使用decimal可以得到十进制下的标准结果
如果结果的位数很多,可以对str保存的浮点数进行任意位数的四舍五入操作。
为了使得到的结果不丢失精度,仍然不能用float来保存,而是获得一个Decimal类型
可以把这个Decimal当做str存储

ref:https://my.oschina.net/leejun2005/blog/156793 

 

转载于:https://www.cnblogs.com/geeklove01/p/8781997.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值