Python学习笔记:为什么0.2+0.1不等于0.3

在这里插入图片描述
在python程序中发现的问题,三个0.2相加之和显示出来的却是0.60000000000001。
计算机中数据以0和1存储,浮点数并不能准确地表示十进制。并且,即便是最简单的数学运算,也会带来不可控制的后果。而print函数也会舍去精度范围外的尾数(也不精确)。

总结:

  • 为什么0.1 + 0.2 不等于0.3。因为计算机不能精确表示0.1, 0.2这样的浮点数,计算时使用的是带有舍入误差的数
  • 并不是所有的浮点数在计算机内部都存在舍入误差,比如0.5就没有舍入误差
  • 具有舍入误差的运算结可能会符合我们的期望,原因可能是“负负得正”
  • 怎么办?1个办法是使用整型代替浮点数计算;2是不要直接比较两个浮点数,而应该使用bignumber.js这样的浮点数运算库
    出自添加链接描述
    参考添加链接描述
    添加链接描述
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值