Python每日一练0018

问题

你需要对浮点数执行精确的计算操作,并且不希望有任何小误差的出现。

Python的float类型是存在误差的

>>> a = 1.1
>>> b = 2.2
>>> a + b == 3.3
False
>>> a + b
3.3000000000000003
复制代码

解决方案

使用decimal模块,但要注意参数需要是字符串

然后其他操作(加法、比较等等)和内置的float类型一样即可

>>> from decimal import Decimal
>>> a = Decimal('1.1')
>>> b = Decimal('2.2')
>>> a + b == Decimal('3.3')
True
>>> a + b
Decimal('3.3')
复制代码

讨论

如果我们的计算对误差要求极高,例如涉及到金融领域的代码,那么可以使用decimal模块

decimal模块非常强大,上面的用法只是冰山一角

例如我们还可以使用decimal来设置保留小数点后几位

要想设置小数点精度,需要先了解decimal模块的上下文,decimal模块维护了一个上下文对象,存储着关于精度、信号处理等等操作,可以通过getcontext得到这个上下文对象

>>> import decimal
>>> decimal.getcontext()
Context(prec=28, rounding=ROUND_HALF_EVEN, Emin=-999999, Emax=999999, capitals=1, clamp=0, flags=[], traps=[InvalidOperation, DivisionByZero, Overflow])
复制代码

其中prec就是小数点精度,我们可以直接对它进行修改看下效果

>>> import decimal
>>> a = decimal.Decimal('1')
>>> b = decimal.Decimal('3')
>>> a / b
Decimal('0.3333333333333333333333333333')
>>> decimal.getcontext().prec = 3
>>> a / b
Decimal('0.333')
复制代码

这个时候有一个问题是,以后的小数点精度都是3了,会影响到其他不想保存3位精度的计算。

实际上decimal模块还提供了一个localcontext函数,我们用with把它包裹起来,就创建了一个临时的上下文环境

import decimal
decimal.getcontext()
a = decimal.Decimal('1')
b = decimal.Decimal('3')
print(a / b)
with decimal.localcontext() as ctx:
    ctx.prec = 3
    print(a / b)
print(a / b)
复制代码

这里在with前的小数点精度为默认的28,with块里的临时精度为3,with块后精度又回到外面的28,所以输出为

Decimal('0.3333333333333333333333333333')
Decimal('0.333')
Decimal('0.3333333333333333333333333333')
复制代码

来源

Python Cookbook

关注

欢迎关注我的微信公众号:python每日一练

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值