java中单精度浮点数具体范围_浮点数(float,double)表数范围和精度问题

浮点数(float,double)表数范围和精度问题

浮点数(float,double)表数范围和精度问题

其实之前就遇到过浮点数精度丢失的问题,但是一直没有去深入研究,只是停留在知识记忆的层面,久而久之发现之前的东西都忘记了,之所以想要围绕这个问题来写一篇文章,是因为最近出现的一个bug,在项目中一个列表显示中id列后台数据是long类型,前端用easyui显示的时候发现数据显示错乱,显示的数据并不是数据库拿到的数据,之前是没有这个问题的,数据量多了以后就出现了这个问题,后来经过各种排查,苦心孤诣探索原因,然并卵,这时候偶然想到会不会是long类型长度超出的问题,于是把后台long类型字段转为String后再返回给前段,显示正常了。原来js中整数只能表示15位,多于15位就会出现精度问题;

JavaScript不是类型语言,与其他雨多编程语言不同,js没有区分定义short,int,long这些类型,

只有Number一种数字类型,Number本质是浮点数,跟java中的double类似,64位,8字节的长度

简单定义

在IEEE754标准中进行了单精度浮点数(float)和双精度数浮点数(double)的定义。

float有32bit,double有64bit。它们的构成包括符号位、指数位和尾数位。

结构组成

类型

符号位

指数位

尾数位

floa(32bit)

最左侧(第31位)

第30-23位(占8bit)

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值