python 精度及位数处理

最新推荐文章于 2023-06-19 23:10:29 发布

粗体鱼

最新推荐文章于 2023-06-19 23:10:29 发布

阅读量2.3k

点赞数 2

分类专栏： tools 文章标签： python decimal 四舍五入

本文链接：https://blog.csdn.net/tangfeng61/article/details/115577794

版权

tools 专栏收录该内容

11 篇文章 1 订阅

订阅专栏

1、其他博文说明的用法：设置 decimal.getcontext().prec = 3

decimal.getcontext().prec = 3
print(decimal.Decimal('2.3') / decimal.Decimal('3'))  # 结果：0.767
print(decimal.Decimal('1.22222') * decimal.Decimal('0.01')) # 结果：0.0122
print(decimal.Decimal('1') / decimal.Decimal('3'))  # 结果：0.333

很明显，此种用法，decimal.getcontext().prec = 3 并不是保留3位小数，而是保留3位有效数字

2、用法二： round

print(round(1.626, 2)) # 结果：1.63
print(round(1.625, 2)) # 结果：1.62
print(round(1.624, 2)) # 结果：1.62
此种用法，在四舍五入的处理，并不能按照预想的 遇5进1.

3、用法三：使用quantize，保留两位小数，则设置为0.00

decimal.getcontext().rounding = decimal.ROUND_HALF_UP # 表示四舍五入
print(decimal.Decimal("1.625").quantize(decimal.Decimal('0.00')))

class NumUtil():

    # 字符串转为decimal
    @staticmethod
    def convertDecimal(strNum):
        if strNum == None:
            pass
        return decimal.Decimal(strNum)

    # 保留两位小数
    @staticmethod
    def convertDecimal2(strNum):
        if strNum == None:
            pass
        # 保留两位小数
        # decimal.getcontext().prec = 2 此种方式只是说保留几位有效数字，而非 小数
        decimal.getcontext().rounding = decimal.ROUND_HALF_UP
        return decimal.Decimal("1.625").quantize(decimal.Decimal('0.00'))

    @staticmethod
    def convertDecimalBit(num_str, bit):

        bit = 2 if bit == None or int(bit) < 0 else int(bit)
        _bit = "0."
        for x in range(bit):
            _bit += "0"

        num_str = '0.00' if num_str == None else num_str
        decimal.getcontext().rounding = decimal.ROUND_HALF_UP

        return decimal.Decimal(num_str).quantize(decimal.Decimal(_bit))