python2.7除法结果过长不正确_python 大数除法问题

因为类型不一样,Python 3 中 / 的结果是 float 类型,而 // 的结果是 int 类型,在计算机中的意义、内部表示、计算方法是截然不同的。

计算机浮点数不是数学中的实数,是有限范围和有限精度的。

1000000000000000000000000 这么长的数,就超出了双精度浮点数的精度。

你可能会惊奇地发现:

float(1000000000000000000000001)==float(1000000000000000000000000)

结果是 True

进一步的现象是

>>> '{:.0f}'.format(float(1000000000000000000000000))

'999999999999999983222784'

>>> '{:.0f}'.format(float(1000000000000000000000001))

'999999999999999983222784'

原因可以查资料去理解 IEEE 754 标准中双精度浮点数的计算机内部表示。比如可以读《深入理解计算机系统》的开头章节。

Python 的变量没有类型,这可能会造成初学者忽略值的类型是有差别的。

【 在 jackylx2008 (梅特涅) 的大作中提到: 】

: 用 //确实解决了问题,不过还是没明白是什么原因造成的

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值