python数据精度_关于Python的数值精度问题

在Python中(其他语言中也存在这个问题,这是计算机采用二进制导致的),有时候由于二进制和十进制之间对应问题会导致数值的精度问题,比如无法用有限个二进制位完整地表示0.1,因为0.1转化为二进制之后位一个无限循环小数。如下图所示:

>>>1.1*2.2

2.4200000000000004

>>>print 1.1*2.2

2.42

这说明Python内部在将float类型转换为字符串时做了一些检测,从而忽略了后边的零。具体的实现原理还有待继续探究。在CodeWar的Caculator题目中,本来使用eval()函数就能极好地解决这道题,然而由于精度问题导致无法通过Test,如下所示:

>>>eval('1.1*2.2*3.3')

7.986000000000001

经过上面的提醒,改为

>>>float(str(eval('1.1*2.2*3.3')))

7.986

后成功解决问题。

当然具体的Python原理还需要具体探究。

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值