float类型数据在计算机中的存储及精度、有效位解释
float类型二进制表示时有效位至少32位,十进制表示时至少6位有效位浮点数类型在计算机中是以二进制科学技术法存储的,一共用32位表示:符号位1位+指数位8位+小数位23位十进制数8.25(二进制科学表示:1.0001*2^3,所有数的整数部分都是1)用二进制值表示为0 1000 0010 00010…0(后面全部为零)二进制一共用32位表示所以有32位有效位,除了符号位和指数位还剩下23位可以用来表示数值的小数部分,再加上整数位为1的那一位一共有24位可以用来表示数值,十进制中一位十进制数需要4
原创
2021-10-11 19:08:37 ·
1764 阅读 ·
0 评论