10.0/3=3.3333333333333335为什么?

翻了好几个答案,在贴吧发现了感觉更能让我理解的版本。

求问10.0/3=3.3333333333333335为什么?【python吧】_百度贴吧 (baidu.com)

搜索:浮点数有效位
或:浮点数储存方式

简单地说就是计算机硬件限制只能提供有限的精度,目前64位系统只能达到17位有效数字。只有符合2的负N次方及其组合的浮点数才能准确表示。如0.5+0.25+0.125。

这个是计算机的浮点数误差,计算机处理是逻辑计算,10之间的逐位计算。 2l说的是没错的,因为win下的普通python是CPython,底层就是c所以误差是按照c来的。

如果链接不可以贴的话,请联系我删除。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值