python中decimal函数用法_decimal --- 十进制定点和浮点运算 — Python 3.10.0a5 文档

本文介绍了Python decimal模块的常见问题与解决方案,包括如何简化decimal构造器输入,如何通过quantize()方法进行定点数舍入验证,如何在定点数应用中保持有效位不变,以及如何将不同表示形式的十进制值标准化。此外,还讨论了如何从普通浮点数转换为Decimal,如何避免精度不足和舍入误差,以及在处理大量数字时的性能和内存考虑。
摘要由CSDN通过智能技术生成

Decimal 常见问题¶

Q. 总是输入 decimal.Decimal('1234.5') 是否过于笨拙。 在使用交互解释器时有没有最小化输入量的方式?

A. 有些用户会将构造器简写为一个字母:

>>>D = decimal.Decimal

>>>D('1.23') + D('3.45')

Decimal('4.68')

Q. 在带有两个十进制位的定点数应用中,有些输入值具有许多位,需要被舍入。 另一些数则不应具有多余位,需要验证有效性。 这种情况应该用什么方法?

A. 用 quantize() 方法舍入到固定数量的十进制位。 如果设置了 Inexact 陷阱,它也适用于验证有效性:

>>>TWOPLACES = Decimal(10) ** -2 # same as Decimal('0.01')

>>># Round to two places

>>>Decimal('3.214').quantize(TWOPLACES)

Decimal('3.21')

>>># Validate that a number does not exceed two places

>>>Decimal('3.21').quantize(TWOPLACES, context=Context(traps=[Inexact]))

Decimal('3.21')

>>>Decimal('3.214').quantize(TWOPLACES, context=Context(traps=[Inexact]))

Traceback (most recent call last):

...

Inexact: None

Q. 当我使用两个有效位的输入时,我要如何在一个应用中保持有效位不变?

A. 某些运算例如与整数相加、相减和相乘将会自动保留固定的小数位数。 其他运算,例如相除和非整数相乘则将会改变小数位数,需要再加上 quantize() 处理步骤

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值