python 高精度四舍五入

最近项目组在统计一些数据,发现程序和人工统计的有些许出入,主要是精度上的区别,比如程序统计的是5298,但是人工统计的是5299,这种类似的情况比较多,决定看下问题的原因是什么。

我们原来使用的是 round()函数,结果发现不是标准的四舍五入

# 测试验证(使用round)
print(round(1.5))
print(round(2.5))
print(round(5298.5))

------------------------------------------------------------
# 输出结果
2
2
5298

于是上网查了下,发现使用decimal() 可以解决问题,废话不多说,直接看代码示例即可。

# -*- coding: UTF-8 -*-
from logzero import logger
from decimal import Decimal


def decimal_deal(input_value, n=0):
    """
    # 四舍五入处理
    :param input:
    :param n:
    :return:
    """
    # 必须先把小数转换成字符串,这样才可以精确的表示浮点数
    input_value = str(input_value)

    # 控制精度
    precision = "0"
    if n != 0:
        precision = "{}".format(1 / (10 ** n))
    logger.info("precision: {}".format(precision))

    output_value = Decimal(input_value).quantize(Decimal(precision), rounding="ROUND_HALF_UP")
    logger.info("input_value: {}, output_value: {}".format(input_value, output_value))


# 测试验证
decimal_deal(1.5)
decimal_deal(2.5)
decimal_deal(12.415, 2)
decimal_deal(0.64516, 3)
decimal_deal(0.64516, 4)
decimal_deal(0.64, 1)

------------------------------------------------------------
# 输出结果
precision: 0
input_value: 1.5, output_value: 2
precision: 0
input_value: 2.5, output_value: 3
precision: 0.01
input_value: 12.415, output_value: 12.42
precision: 0.001
input_value: 0.64516, output_value: 0.645
precision: 0.0001
input_value: 0.64516, output_value: 0.6452
precision: 0.1
input_value: 0.64, output_value: 0.6

参考:https://zhuanlan.zhihu.com/p/115431517

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

rs勿忘初心

您的鼓励将是我的最大创动原动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值