java——强制类型转换数据溢出的结果计算

强制类型转换数据溢出计算:

在开发中我们经常会遇到数据溢出问题,那么问题来了,溢出得到的结果是怎么计算的呢??

小贴士:
我们知道计算机中的数据以字节的形式存储,一个字节又分出8位地址空间,用来存储1和0二进制数据。

我们在计算机上看到的其实是其原码形式,计算机是以二进制数的补码进行处理运算的。


ok就说得到这,下面来个案例说明问题!!!

byte a = (byte)130;

 

 

我们知道byte类型的范围是-128+127,很显然啦上面强转越界。会出现精度缺失。但最后我们得到结果-126.那么我们来看看是怎么得到的!

 

 

 

首先写出130的二进制原码:

原码:00000000 00000000 00000000 10000010

因为正数 原反补 相同。所以呢我们得到十进制数130的二进制补码也是
补码:00000000 00000000 00000000 10000010


强制类型转换位byte类型,字节数变为1,进行数据截取得 补码:10000010

之前说过计算机处理是以补码形式,我们最终看到的是原码形式,所以我们需要进行转换。

补码:10000010

      符号位    数值位

补码   1        0000010

反码   1        0000001

原码   1        1111110

所以最终得到的二进制原码是 11111110

把二进制转换成十进制为-126 即为结果啦。

                       

                                                                                         已有--6--人打赏 ...

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值