Python中关于浮点数运算的不确定尾数的解释

一、浮点数类型

与数学中实数概念一致,带有小数点及小数的数字。浮点数取值范围和小数精度都存在限制,但常规计算可忽略。
取值范围数量级约-10308到10308,精度数量级10-16

二、浮点数运算的不确定尾数

浮点数运算存在不确定尾数,但这不是bug。在很多编程语言都存在这样的问题,涉及计算机对数字运算的内部实现原理。

print(0.1 + 0.3)
#结果:0.4
print(0.1 + 0.2)
#结果:0.30000000000000004

我们知道在计算机中,所有数字都是采用二进制方式表示。在Python语言中使用53位二进制来表示一个浮点数的小数部分,约10^-16^,对于小数0.1,它的二进制方式表示如下:

0.000110011001100110011001100110011001100110011001101

但是,由于计算机中二进制跟十进制之间不存在严格的对等关系,所以0.1再用二进制表示的时候,它是一个无限的小数,计算机只能截取其中的53位无限的接近0.1,但它并不是真正的等于0.1。那么经过53位二进制小数表示的这么一个浮点数,如果转换成十进制,它就是0.1,但是后边还会有一个很长很长的尾数,只是计算机再将浮点数结果输出的时候,只输出了其中的16位小数,之后的并没有输出出来。正是因为存在二进制表述小数,它可以无限接近一个十进制的小数,但并不完全相同这样一个问题,所以使得0.10.2进行计算的时候,它在计算机内部经过二进制转换,在经过二进制的运算,在经过反向转换,转换成十进制小数的时候,结果会无线接近0.3,但可能出现一个不确定的尾数。这就是浮点数运算存在不确定尾数的原因。我们再看下边这样一个例子:

print(0.1 + 0.2 == 0.3)

输出结果为:False

三、解决办法

因为浮点数运算存在不确定尾数,所以在浮点数间运算及比较用round()函数辅助。

print(round(0.1 + 0.2, 1) == 0.3)
# 结果:True
  • 7
    点赞
  • 12
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Smile丶Life丶

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值