最近项目组在统计一些数据,发现程序和人工统计的有些许出入,主要是精度上的区别,比如程序统计的是5298,但是人工统计的是5299,这种类似的情况比较多,决定看下问题的原因是什么。
我们原来使用的是 round()函数,结果发现不是标准的四舍五入。
# 测试验证(使用round)
print(round(1.5))
print(round(2.5))
print(round(5298.5))
------------------------------------------------------------
# 输出结果
2
2
5298
于是上网查了下,发现使用decimal() 可以解决问题,废话不多说,直接看代码示例即可。
# -*- coding: UTF-8 -*-
from logzero import logger
from decimal import Decimal
def decimal_deal(input_value, n=0):
"""
# 四舍五入处理
:param input:
:param n:
:return:
"""
# 必须先把小数转换成字符串,这样才可以精确的表示浮点数
input_value = str(input_value)
# 控制精度
precision = "0"
if n != 0:
precision = "{}".format(1 / (10 ** n))
logger.info("precision: {}".format(precision))
output_value = Decimal(input_value).quantize(Decimal(precision), rounding="ROUND_HALF_UP")
logger.info("input_value: {}, output_value: {}".format(input_value, output_value))
# 测试验证
decimal_deal(1.5)
decimal_deal(2.5)
decimal_deal(12.415, 2)
decimal_deal(0.64516, 3)
decimal_deal(0.64516, 4)
decimal_deal(0.64, 1)
------------------------------------------------------------
# 输出结果
precision: 0
input_value: 1.5, output_value: 2
precision: 0
input_value: 2.5, output_value: 3
precision: 0.01
input_value: 12.415, output_value: 12.42
precision: 0.001
input_value: 0.64516, output_value: 0.645
precision: 0.0001
input_value: 0.64516, output_value: 0.6452
precision: 0.1
input_value: 0.64, output_value: 0.6