浮点数(float,double)表数范围和精度问题
浮点数(float,double)表数范围和精度问题
其实之前就遇到过浮点数精度丢失的问题,但是一直没有去深入研究,只是停留在知识记忆的层面,久而久之发现之前的东西都忘记了,之所以想要围绕这个问题来写一篇文章,是因为最近出现的一个bug,在项目中一个列表显示中id列后台数据是long类型,前端用easyui显示的时候发现数据显示错乱,显示的数据并不是数据库拿到的数据,之前是没有这个问题的,数据量多了以后就出现了这个问题,后来经过各种排查,苦心孤诣探索原因,然并卵,这时候偶然想到会不会是long类型长度超出的问题,于是把后台long类型字段转为String后再返回给前段,显示正常了。原来js中整数只能表示15位,多于15位就会出现精度问题;
JavaScript不是类型语言,与其他雨多编程语言不同,js没有区分定义short,int,long这些类型,
只有Number一种数字类型,Number本质是浮点数,跟java中的double类似,64位,8字节的长度
简单定义
在IEEE754标准中进行了单精度浮点数(float)和双精度数浮点数(double)的定义。
float有32bit,double有64bit。它们的构成包括符号位、指数位和尾数位。
结构组成
类型
符号位
指数位
尾数位
floa(32bit)
最左侧(第31位)
第30-23位(占8bit)