float类型二进制表示时有效位至少32位,十进制表示时至少6位有效位
浮点数类型在计算机中是以二进制科学技术法存储的,一共用32位表示:符号位1位+指数位8位+小数位23位
十进制数8.25(二进制科学表示:1.0001*2^3,所有数的整数部分都是1)用二进制值表示为0 1000 0010 00010…0(后面全部为零)
二进制一共用32位表示所以有32位有效位,
除了符号位和指数位还剩下23位可以用来表示数值的小数部分,再加上整数位为1的那一位一共有24位可以用来表示数值,十进制中一位十进制数需要4个二进制位来表示,所以有24/4=6,即十进制中float至少有6位有效位。
浮点运算的精度是降低的
11.17用二进制科学记数法保存时23位二进制位表示小数时不能精确表示,在计算机里存储的是估计值
所以说浮点类型计算的精度是降低的