计算机双精度值java,Java中单精度和双精度数加法结果问题

问题引出

今天看到了一个有趣的问题,下面的Java代码打印的结果是什么?

public class Test {

public static void main(String[] args){

float f1 = 6.6f;

float f2 = 1.3f;

System.out.println(f1 + f2);

double f3 = 6.6;

double f4 = 1.3;

System.out.println(f3 + f4);

}

}

相信不少人都会一口说出答案——两个7.9

然而这个答案是错误的!!!

代码实际运行结果

726eef453af9

问题实际运行结果

相信不少人看到这个结果都会很惊讶,怎么回事呢?是什么原因呢??

原理分析

我们需要从计算机二进制的层面来分析这个问题

程序的计算是由CPU来完成的,CPU表示浮点数由三部分组成分为三个部分,符号位(sign),指数部分(exponent)和有效部分(fraction, mantissa)。其中float总共占用32位,符号位,指数部分,有效部分各占1位,8位,23位

726eef453af9

浮点数结构

二进制的转换问题

对于实数而言,二进制的转化分为整数部分和小数部分。对于整数的二进制转化,相信很多人都很清楚;对于小数部分则稍微麻烦一些。

比如,6.6转换为二进制需要分为整数6与小数0.6进行。

整数6的转换过程:

被除数

除数

余数

6

2

0

3

3

2

1

1

1

2

1

0

取反向余数为110,则是6转换为二进制的结果

小数0.6的转换过程:

将小数乘以2,取整数部分作为二进制的值,然后再将小数乘以2(进制数),再取整数部分,以此往复循环

0.6转化为二进制。

小数

进制数

整数部分

小数部分

0.6

2

1

0.2

0.2

2

0

0.4

0.4

2

0

0.8

0.8

2

1

0.6

0.6

2

1

0.2

0.2

2

0

0.4

0.4

2

0

0.8

0.8

2

1

0.6

可以看到过程会进入循环,循环体为1001,所以0.6转化为二进制为0.10011001… 6.6转化为二进制为110.10011001…

规约化

规约化将小数转为规约形式,类似科学计数法,就是保证小数点前面有一个有效数字。在二进制里面,就是保证整数位是一个1。6.6的二进制形式110.10011001规约化为:1.1010011001*2^2。

指数偏移值

指数偏移值 = 固定值 + 规约化的指数值

固定值=2^e-1,其中的e为存储指数部分的比特位数,前面提到的float为8位。所以float中规定化值为127

6.6的二进制值规约化以后为1.1010011001*2^2,指数是2,所以偏移值就是127+2=129,转换为二进制就是10000001,

对6.6进行拼接

6.6为正数,符号位为0,指数部分为偏移值的二进制10000001,有效部分为规约形式的小数部分,取小数的前23位即10100110011001100110011,最后拼接到一起即01000000110100110011001100110011

到这里已经大致了解到float为什么不精确了,首先在存储的时候就会造成精度损失了,在这里小数部分的二进制是循环的,但是仍然只能取前23位。同理,double造成精度损失的原因也是如此。

求和

以上的步骤结束后,才进行求和操作,保留8位有效位。

感悟

看似简单,实则暗藏玄机——基础还是重要啊!!!

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值