当赋值超过了数据类型的范围,怎么进行计算?

当赋值超过了数据类型的范围,怎么进行计算?


举例说明

题目:byte b = 130;有没有问题?如果我想让赋值正确,可以怎么做?
结果是多少呢?

解答:
1、有问题的,因为byte数据类型的范围是在-128~127之间,而130超出了范围。

2、怎么做?

        我们知道数据在计算机种运算的时候是采用补码的形式参数运算的,
        所以要知道130的补码
        而想要知道补码,就得知道反码,原码,所以得求出130的二进制的
        表示:
        130的二进制:10000010
        由于整数默认是int类型,所以扩大字节
        130的原码为:00000000 00000000 00000000 10000010
        又由于最高位是0,所以它的原码,反码,补码都一样
        130的补码:00000000 00000000 00000000 10000010
        做截取操作:10000010 这是补码

        已知补码,求原码:
               符号位   数值位
        补码:    1     0000010
        反码:    1     0000001
        原码:    1     1111110

        最终结果为:11111110
        将它换算成十进制就是我们看到的结果:-126
  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值