计算机中小数的处理机制
❓ ❓ ❓ 为什么0.1累加100次后的结果得不到10??? 大家想都不用想都知道0.1累加100次后的结果为10,但是通过以上代码发现,0.1累加100次得到的结果是9.99999999999998,并不是10.程序没有错,计算机也没有发生任何故障,当然,python语言也没有什么问题. 这主要是计算机处理小数的机制问题造成的, 因为0.1在计算机中无法正确的表示为二进制数据. 在编程语言中小数通常分为单精度浮点数和双进度浮点数, 本文清晰的解释了浮点数在计算机中的实现机制, 希望能给读者解决困扰
原创
2022-10-01 02:45:26 ·
351 阅读 ·
0 评论