python模块调用的用法_Python decimal模块使用方法详解

decimal 模块:decimal意思为十进制,这个模块提供了十进制浮点运算支持

1.可以传递给Decimal整型或者字符串参数,但不能是浮点数据,因为浮点数据本身就不准确。

2.要从浮点数据转换为Decimal类型

from decimal import *

Decimal.from_float(12.222)

# 结果为Decimal('12.2219999999999995310417943983338773250579833984375')

3.通过设定有效数字,限定结果样式

from decimal import *

getcontext().prec = 6

Decimal(1)/Decimal(7)

# 结果为Decimal('0.142857'),六个有效数字

4.四舍五入,保留几位小数

from decimal import *

Decimal('50.5679').quantize(Decimal('0.00'))

# 结果为Decimal('50.57'),结果四舍五入保留了两位小数

5.Decimal 结果转化为string

from decimal import *

str(Decimal('3.40').quantize(Decimal('0.0')))

# 结果为'3.4',字符串类型

Python3中decimal处理计算精度问题示例

#!/usr/bin/python3

# coding:utf-8

import decimal

from decimal import Decimal, getcontext

def demo():

"""

取整问题:

ROUND_CEILING 总是趋向无穷大向上取整

ROUND_DOWN 总是趋向0取整

ROUND_FLOOR 总是趋向负无穷大向下取整

ROUND_HALF_DOWN 如果最后一个有效数字大于或等于5则朝0反方向取整;否则,趋向0取整

ROUND_HALF_EVEN 类似于ROUND_HALF_DOWN,不过,如果最后一个有效数字值为5,则会检查前一位。

偶数值会导致结果向下取整,奇数值导致结果向上取整

ROUND_HALF_UP 类似于ROUND_HALF_DOWN,不过如果最后一位有效数字为5,值会朝0的反方向取整

ROUND_UP 朝0的反方向取整

ROUND_05UP 如果最后一位是0或5,则朝0的反方向取整;否则向0取整

"""

# 1.常规计算

getcontext().prec = 9

r1 = Decimal(1) / Decimal(3)

print("r1 ", r1) # r1 0.333333333

# 2.但是getcontext().prec会包含小数点前面的所有长度,当前面长度有变化时并不能固定控制小数点后的位数

r2 = Decimal(10) / Decimal(3)

print("r2 ", r2) # r2 3.33333333

# 3.想要固定控制小数点后面的位数则需要使用decimal.quantize(Decimal('0.00000000')),注意不能超过getcontext().prec的位数

r3 = Decimal(1) / Decimal(3)

print("r3 ", r3.quantize(Decimal('0.00000000'))) # r3 0.33333333

r4 = Decimal(10) / Decimal(3)

print("r4 ", r4.quantize(Decimal('0.00000000'))) # r4 3.33333333

r5 = Decimal(10) / Decimal(str(1.5))

print("r5 ", r5.quantize(Decimal('0.00000000'))) # r5 6.66666667

# 4.向上取整

getcontext().rounding = getattr(decimal, 'ROUND_CEILING') # 总是趋向无穷大向上取整

r6 = Decimal(10) / Decimal(str(1.5)) # r6 6.66666667

print("r6 ", r6.quantize(Decimal('0.00000000')))

r7 = Decimal(10) / Decimal(3) # r7 3.33333334

print("r7 ", r7.quantize(Decimal('0.00000000')))

# 5.向下取整

getcontext().rounding = getattr(decimal, 'ROUND_FLOOR') # 总是趋向无穷大向下取整

r8 = Decimal(10) / Decimal(str(1.5)) # r8 6.66666666

print("r8 ", r8.quantize(Decimal('0.00000000')))

r9 = Decimal(10) / Decimal(3) # r9 3.33333333

print("r9 ", r9.quantize(Decimal('0.00000000')))

if __name__ == '__main__':

demo()

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持脚本之家。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值