关于float的一点小知识

float的精度是有限的。

a = 8/3
print(a)

输出结果为:2.6666666666666665,最后一位为什么不对呢?

我们查看下 a 的类型:

a = 8/3
print(type(a))

输出结果为:<class 'float'>,即 a 的类型为浮点型。

我们不妨做个有意思的实验,直接输出小数点后50位:

a = 8/3
print('%0.50f'%a)

输出结果为:

2.66666666666666651863693004997912794351577758789062

那如果我们只精确到小数点后5位呢?

a = 8/3
print('%0.5f'%a)

输出结果为:2.66667,四舍五入,完美。

一般来说,单精度的浮点型 float,小数点后的有效数字在6~7位。

我们可以使用 decimal 来提升精度:

import decimal
a = decimal.Decimal(8) / decimal.Decimal(3)
print(a)

输出结果为:2.666666666666666666666666667

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值