一.为什么讲浮点数?
浮点数是程序中常用的数。
浮点数是计算机技术中设计非常精巧的一个例子。
二.基本概念
1.十进制小数和二进制相互转换
101.01(二进制)
101(二进制)=1*2^2+0*2^1+1*2^0=5(十进制)
.=+
01(二进制)=0*2^-1+1*2^-2=0.25(十进制)
所以101.01(二进制)=5.25(十进制)
注:某些有限十进制数小数无法转换成有限二进制小数如:0.3
2.科学计数法
2.科学计数法特点:
1.有一个定长的尾数
2.有固定的基
3.有阶
4.有符号
5.阶增减1相当于尾数小数点右移/左移一位
3.科学记数法归一化
归一化科学记数法特点:
1.尾数长度决定了数的运算可用精度
-简称精度
2.比较大小的算法
-先比较符号
-符号相同的再比较阶
-符号和阶都相同,再比较尾数
三.二进制科学记数法
计算机只能使用二进制,所以计算机用二进制科学记数法:
二进制科学记数法特点:
1.有符号
2.阶为有符号整数
3.基为2可以隐含表示
4.尾数归一化后1<尾数<2可以隐含表示
5.尾数和阶谁在高位?
谁的权重大谁在高位(比较大小时先比较阶)
阶在高位
四.浮点型二进制科学记数法
同理
双精度浮点型
64位浮点数的指数部分的值最大为2047,分出一半表示负数,则 JavaScript 能够表示的数值范围为2^1024到2^-1023(开区间),超出这个范围的数无法表示。如果一个数大于等于2的1024次方,那么就会发生“正向溢出”,即 JavaScript 无法表示这么大的数,这时就会返回Infinity
。
以上两种科学记数法可统一为
五.浮点型二进制科学记数法数值范围
1.指数长度决定能够表示的数值范围
64位浮点数的指数部分的值最大为2047,分出一半表示负数,则 JavaScript 能够表示的数值范围为2^1024到2^-1023(开区间),超出这个范围的数无法表示。如果一个数大于等于2的1024次方,那么就会发生“正向溢出”,即 JavaScript 无法表示这么大的数,这时就会返回Infinity
。
2.尾数长度决定了数的运算可用精度
精度最多只能到53个二进制位,这意味着,绝对值小于2的53次方的整数,即-2^53到2^53,都可以精确表示。
JS安全整数
1.javascript 里对整数的表示等同于双精度浮点数(64-bit)对整数的表示
2.安全”意思是说能够one-by-one表示的整数,也就是说在(-2^53, 2^53)范围内,双精度数表示和整数是一对一的,反过来说,在这个范围以内,所有的整数都有唯一的浮点数表示,这叫做安全整数。
而超过这个范围,会有两个或更多整数的双精度表示是相同的;反过来说,超过这个范围,有的整数是无法精确表示的,只能round到与它相近的浮点数(说到底就是科学计数法)表示,这种情况下叫做不安全整数。
这并不是JS特有的性质,而是IEEE754双精度浮点数就是这么定义的。
链接:https://www.zhihu.com/question/29010688/answer/42896663
3.安全的整数的范围为什么是-2^53~2^53(不包含边界)?
也就是问为什么只有在这个范围内,它们是一一对应的(64-bit 浮点数和整数)。
2^53是这样存的:
符号位:0 指数:53 尾数:1.000000...000 (小数点后一共52个0)
2^53-1是这样存的:
符号位:0 指数:52 尾数:1.111111....111 (小数点后一共52个1)
2^53-2是这样存的:
符号位:0 指数:52 尾数:1.111111....110 (小数点后一共51个1,一个零)
依此类推,可以推到0. 可以看到这个过程中,每向下减一,通过修改尾数和指数(有时指数 不变),每一个整数都可以由一个浮点数‘模拟’。
但是:
2^53+1:
符号位:0 指数:53 尾数:1.000000...000 (小数点后一共52个0)
注意到,2^53+1的存储和2^53一样。
以2^53来说明一下为什么2^53-1是最大安全整数,安全在哪里
2^53 转二进制 =====> 100000000000000000000000000000000000000000000000000000(53个0)
转为科学计数法 =====> 1.00000000000000000000000000000000000000000000000000000(53个0)*2^53
存入计算机 =====> 尾数位只有52位所以截掉末尾的0只能存52个0
2^53+1 转二进制 =====> 100000000000000000000000000000000000000000000000000001(52个0)
转为科学计数法 =====> 1.00000000000000000000000000000000000000000000000000001(52个0)
存入计算机 =====> 尾数位只有52位所以截掉末尾的1只能存52个0
可以看出来,2^53和2^53+1在计算机中的存储尾数和指数都相同,
这样就不再“一一对应”。为什么两个数会存的一样?
因为在指数位是53的情况下,尾数在乘以2的53次幂后,相当于小数点向后移动了53位。此 时,小数点不是在尾数最后一位的后面,而是在其后面的后面。
关于上面的回答有如下几点需要说明:
1、 2^53为什么不能算是一个‘安全的’整数?
因为2^53在存储中已经损失了一位精度,尽管它确实是‘一一对应’的。
2、 符号位标识正负,上面的回答限于正整数,把符号位变为1,即为对应的负整数。javascript 中有+0 和 -0
3、 在表示指数小于等于51次方的整数时,尾数的的最后几位是用不到的。
4、 对所谓的‘安全’还是不能理解
在安全的整数范围内进行加减乘除,javascript程序的表现和真正使用Integer类型的语言的程 序表现一致。javascript中一些只处理32位或者16位的运算符不在此‘安全’考虑范围内。
链接:https://www.zhihu.com/question/29010688/answer/42886646
抓住数据的小尾巴 - JS浮点数陷阱及解法 - 知乎
https://zhuanlan.zhihu.com/p/30703042
六.阶的表示
用原码或补码表示阶(指数)在比较两个数时会出现问题,所以对科学记数法公式进行修正
称上述方法为移码
阶以移码的形式存储。对于单精度浮点数,偏移量为127(7FH),而双精度的偏移量为1023(3FFH)。存储浮点数的阶码之前,偏移量要先加到阶码上。前面例子中,阶为2的三次方,在单精度浮点数中,移码后的结果为127+3即130(82H),双精度为1026(402H)。
下一篇文章详细讲解移码。