计算机浮点数

一.为什么讲浮点数?

浮点数是程序中常用的数。

浮点数是计算机技术中设计非常精巧的一个例子。

二.基本概念

1.十进制小数和二进制相互转换

101.01(二进制)

101(二进制)=1*2^2+0*2^1+1*2^0=5(十进制)

.=+

01(二进制)=0*2^-1+1*2^-2=0.25(十进制)

所以101.01(二进制)=5.25(十进制)

注:某些有限十进制数小数无法转换成有限二进制小数如:0.3

2.科学计数法

 

2.科学计数法特点:

1.有一个定长的尾数

2.有固定的基

3.有阶

4.有符号

5.阶增减1相当于尾数小数点右移/左移一位

 

3.科学记数法归一化

归一化科学记数法特点:


1.尾数长度决定了数的运算可用精度
-简称精度

2.比较大小的算法
-先比较符号
-符号相同的再比较阶
-符号和阶都相同,再比较尾数
 

 

三.二进制科学记数法

计算机只能使用二进制,所以计算机用二进制科学记数法:

二进制科学记数法特点:

1.有符号

2.阶为有符号整数

3.基为2可以隐含表示

4.尾数归一化后1<尾数<2可以隐含表示

5.尾数和阶谁在高位?
谁的权重大谁在高位(比较大小时先比较阶


在高位

四.浮点型二进制科学记数法

 

同理

双精度浮点型

64位浮点数的指数部分的值最大为2047,分出一半表示负数,则 JavaScript 能够表示的数值范围为2^1024到2^-1023(开区间),超出这个范围的数无法表示。如果一个数大于等于2的1024次方,那么就会发生“正向溢出”,即 JavaScript 无法表示这么大的数,这时就会返回Infinity

以上两种科学记数法可统一为

五.浮点型二进制科学记数法数值范围

1.指数长度决定能够表示的数值范围

64位浮点数的指数部分的值最大为2047,分出一半表示负数,则 JavaScript 能够表示的数值范围为2^1024到2^-1023(开区间),超出这个范围的数无法表示。如果一个数大于等于2的1024次方,那么就会发生“正向溢出”,即 JavaScript 无法表示这么大的数,这时就会返回Infinity

2.尾数长度决定了数的运算可用精度

精度最多只能到53个二进制位,这意味着,绝对值小于2的53次方的整数,即-2^53到2^53,都可以精确表示。

JS安全整数

1.javascript 里对整数的表示等同于双精度浮点数(64-bit)对整数的表示

2.安全”意思是说能够one-by-one表示的整数,也就是说在(-2^53, 2^53)范围内,双精度数表示和整数是一对一的,反过来说,在这个范围以内,所有的整数都有唯一的浮点数表示,这叫做安全整数

而超过这个范围,会有两个或更多整数的双精度表示是相同的;反过来说,超过这个范围,有的整数是无法精确表示的,只能round到与它相近的浮点数(说到底就是科学计数法)表示,这种情况下叫做不安全整数

这并不是JS特有的性质,而是IEEE754双精度浮点数就是这么定义的。

链接:https://www.zhihu.com/question/29010688/answer/42896663
 

 

3.安全的整数的范围为什么是-2^53~2^53(不包含边界)?

也就是问为什么只有在这个范围内,它们是一一对应的(64-bit 浮点数和整数)。
2^53是这样存的:
符号位:0 指数:53 尾数:1.000000...000 (小数点后一共52个0)
2^53-1是这样存的:
符号位:0 指数:52 尾数:1.111111....111 (小数点后一共52个1)
2^53-2是这样存的:
符号位:0 指数:52 尾数:1.111111....110 (小数点后一共51个1,一个零)

依此类推,可以推到0. 可以看到这个过程中,每向下减一,通过修改尾数和指数(有时指数 不变),每一个整数都可以由一个浮点数‘模拟’。

 

但是:
2^53+1:
符号位:0 指数:53 尾数:1.000000...000 (小数点后一共52个0)

注意到,2^53+1的存储和2^53一样。

以2^53来说明一下为什么2^53-1是最大安全整数,安全在哪里

2^53 转二进制 =====> 100000000000000000000000000000000000000000000000000000(53个0)
 转为科学计数法 =====> 1.00000000000000000000000000000000000000000000000000000(53个0)*2^53 
存入计算机 =====> 尾数位只有52位所以截掉末尾的0只能存52个0 
2^53+1 转二进制 =====> 100000000000000000000000000000000000000000000000000001(52个0) 
转为科学计数法 =====> 1.00000000000000000000000000000000000000000000000000001(52个0) 
存入计算机 =====> 尾数位只有52位所以截掉末尾的1只能存52个0

可以看出来,2^53和2^53+1在计算机中的存储尾数和指数都相同,

这样就不再“一一对应”。为什么两个数会存的一样?
因为在指数位是53的情况下,尾数在乘以2的53次幂后,相当于小数点向后移动了53位。此 时,小数点不是在尾数最后一位的后面,而是在其后面的后面。


关于上面的回答有如下几点需要说明:
1、 2^53为什么不能算是一个‘安全的’整数?
因为2^53在存储中已经损失了一位精度,尽管它确实是‘一一对应’的。
2、 符号位标识正负,上面的回答限于正整数,把符号位变为1,即为对应的负整数。javascript 中有+0 和 -0
3、 在表示指数小于等于51次方的整数时,尾数的的最后几位是用不到的。
4、 对所谓的‘安全’还是不能理解
在安全的整数范围内进行加减乘除,javascript程序的表现和真正使用Integer类型的语言的程 序表现一致。javascript中一些只处理32位或者16位的运算符不在此‘安全’考虑范围内。


链接:https://www.zhihu.com/question/29010688/answer/42886646

抓住数据的小尾巴 - JS浮点数陷阱及解法 - 知乎
https://zhuanlan.zhihu.com/p/30703042


六.阶的表示

用原码或补码表示阶(指数)在比较两个数时会出现问题,所以对科学记数法公式进行修正

称上述方法为移码

阶以移码的形式存储。对于单精度浮点数,偏移量为127(7FH),而双精度的偏移量为1023(3FFH)。存储浮点数的阶码之前,偏移量要先加到阶码上。前面例子中,阶为2的三次方,在单精度浮点数中,移码后的结果为127+3即130(82H),双精度为1026(402H)。

下一篇文章详细讲解移码

  • 0
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 2
    评论
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

lvshuai666

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值