[经典BUG]前后端精度问题

精度问题

现象描述

js在如果直接计算小数加减法会出现精度问题,如下图
在这里插入图片描述
结果并非是0.3,而是图所示数字

原因解析

https://zhuanlan.zhihu.com/p/100353781

js以64位存储所有的number数据类型,即最多存储64位二进制数。字节即可以存储8位数字
在这里插入图片描述
单精度 float :
单精度浮点数在内存中占4个字节、有效数字8位、表示范围:-3.40E+38 ~ +3.40E+38

双精度 double :
双精度浮点数在内存中占8个字节、有效数字16位、表示范围:-1.79E+308 ~ +1.79E+308

计算机如何显示小数呢?
例如27.0 → 11011.0 , 科学计数法即为 1.10110 * 2^4
double型数据(双精度浮点数),其长度为8个字节,右边52位表示小数点后面的数字,中间11为代表e小数点移动的位数,左

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值