此次测试是在ubuntu下
对于C语言数据类型
sizeof
char 1个字节
short 2个字节
int 4个字节
long 4个字节
float 4个字节
double 8个字节
一.char的范围
char有8位,其中一位为符号位,2^7=128,其取值范围为-128~127,其中0~127位对应ASCII码表,负数位对应各行业各自设置。
二.整型的范围
此处以int为例,其中一位为符号位,2^31=2147483648,其取值范围为-2147483648~2147483648。
三.浮点型的范围
此处以float为例,有32位
1(符号位) 8(指数位) 23 ( 尾数位)
此处以 17.625 的数字类型为例。
1、先把 17.625 转换为 10001.101
2、将10001.101 转为整数为一位的数为1.0001101*2^4
3、得到尾数位为 0001 1010 0000 0000 0000 000
4、得到指数位为 127(固定值)+4 = 1000 0011
5、所以17.625的float存储格式为
0 1000 0011 0001 1010 0000 0000 0000 000
关于float的取值范围,可以看出是根据指数位来确定,理由自己想,就是这个指数可以让这个数很大。
指数位只有8位,符号位一位,但其通过指数方式扩大其范围,实际位为-127~128,其代价就是消耗计算,所以float整数位的取值范围为 -2^128~2^128。
其小数点的精确位由尾数位决定,2^23=8288608 这个数为7位数,但不全包括,所以float的小数点精确能保证六位以下的有效性,但7位无法保证
double为8个字节,
格式为
1(符号位) 11( 指数位) 52(尾数位)
算法忽略
double整数位的范围为-2^1024~2^1024
小数点精确位为2^52=4503599627370496,一共16位,所以精确度为15到16位