保留小数位数时,可能会出现不按四舍五入进位,简单的解决方案

在Python中运行如下代码:

a = 2.358755
print(a)
print(decimal.Decimal.from_float(a))
print('\n保留5位小数的结果:')
print(format(a, '.5f'))

运行结果:

2.358755
2.358754999999999935056393951526843011379241943359375

保留5位小数的结果:
2.35875

可以看到,结果不对。实际上,保留5位小数的结果是 2.35876
这是由于底层代码的原理造成的,看第2行的结果,2.358754999999999935056393951526843011379241943359375 ,第6位小数是4,所以得出2.35875

使用如下代码可以解决这个问题:

def format_float(data, n):
    """
    给定数据,保留n位小数
        例子: format(2.358755, '.5f') ,结果是 2.35875,正确四舍五入值是 2.35876
    """
    digit = len(str(data).split('.')[-1])  # 计算小数位数
    if n == digit - 1:  # 保留的位数正好比总的小数位数少一位,则在后面补1
        data = float(str(data) + '1')
    return format(data, f'.{n}f')

a = 2.358755
print(format_float(a, 5))

运行结果:

2.35876

实际上在原来的浮点数后面补1就可以解决这个问题,补1后的实际数据:

print(decimal.Decimal.from_float(2.3587551))

运行结果:

2.358755100000000215487716559437103569507598876953125

可以看到第6位的数据现在是5,所以能准确得到四舍五入的值。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值