计算机浮点数表示法的固有缺陷

今晚使用马尔科夫模型,在写转移概率矩阵时,使用 pyhton 自带的函数 sum 来检查是否每一行的和都为 1

然而

In[4]: sum([0.12, 0.16, 0.20, 0.20, 0.00, 0.00, 0.20, 0.12, 0.00])
Out[4]: 1.0
In[5]: sum([0.15, 0.15, 0.20, 0.20, 0.00, 0.00, 0.20, 0.10, 0.00])
Out[5]: 0.9999999999999999
In[6]: import numpy as np
In[7]: np.sum([0.15, 0.15, 0.20, 0.20, 0.00, 0.00, 0.20, 0.10, 0.00])
Out[7]: 1.0

看到也有人发现了类似的问题,这是计算机浮点数表示法的固有缺陷,也就是说,所有语言里都会有这样的问题。

 

计算机要存储、计算十进制数,要先把十进制转为二进制,计算后再把二进制转为十进制数。

对于小数而言,二进制能表示的基数由1/2、1/4、1/8、1/16......这些组成,所以必定有一部分小数无法表示,这也是计算机中浮点数精度缺失的根本原因所在。浮点数具体的存储标准需要参考IEEE 754。

 

对于一些要求精确计算的场合(比如上面的numpy),一种解决方法是将小数扩大为整数,比如将 0.15 变成 15,这样表示起来就不会有误差,这也是一些计算机或编译环境中的除法 / 默认为整除的原因(至少整数不会出错)

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值