计算值类型取值范围时，发现的一条公式

在计算byte类型的取值范围时，无意中发现一条数据公式。

首先我们知道byte类型在内存中占1个字节，而一个字节占8bit，它在内存中的存储方式如下，

符号位	指数位
1	7

 

 

所以最大值为 1111111（2进制），

亮点就在这，在转为10进制的过程，我首先凭经验，判断出这个10进制的值为2的7次方 减1。

但根据2进制转10进制的规则，1111111（2进制）这个值，从0位开始，最高为6次方。

实际最大值的计算过程为 1*2的6次方+1*2的5次方+……+1*2的0次方。即127。

而2的8次为128。由此猜想，2的n次方=2的(n次方-1) + 2的2的(n次方-2)+……+2的0次方-1 

再次计算2的5次方 ，进行验证，果然还是这个结果。

 

转载于:https://www.cnblogs.com/chenjfblog/p/7737991.html