目录
计算机的数字的存储和运算都是通过二进制进行的,十进制的数要转换成二进制在进行存储和运算.
float和double的小数部分会出现无限循环的情况,所以会出现不准确的情况。
浮点数存储结构:
计算机存储浮点数分三部分:符号位:1正,0负
指数位:阶数的二进制码,是一个无符号的整数,但是阶数既可以是正数也可以是负数,那么就需要有一个偏移量(单精度偏移量为127,双精度偏移量为1023),则真正的阶数=移码指数-偏移量。
尾数位:有效数字
1 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 23位有效数字 |
数据类型 | 所占字节 | 表示范围 |
float(单精度) | 4字节(32bit) | -3.403E38--3.403E38 |
double(双精度) | 8字节(64bit) | -1.798E308--1.798E308 |
单精度浮点数32位=1位符号位+8位指数位+23位有效数字
双精度浮点数64位=1位符号位+11位指数位+52位有效数字
十进制小数转换成二进制小数的规则:
1.整数部分转整数,小数部分转小数。
2.小数部分:十进制的值一直乘以2;结果如果大于1,整数部分清零(在二进制小数后补1)
结果如果不大于1(在二进制小数后补0)
例如:2.5转换二进制小数
整数转整数
2 = 0000 0010
小数转小数
0.5 =011001100110011001100110011001100110011001100110011.....(无限循环小数)
0000 0010.0110 0110 0110 0110 0110 0110 0110 0110 0110011001100110011...=1.0011 0011 0011 0011 0011 001*2^1
1位 | 指数位 | 尾数为(23位) | 丢弃 |
0 | 10000000 | 0011 0011 0011........ | 10 0110 0110 .... |
计算机保存浮点数精度有限,float可以保留十进制最多7位(二进制23位)有效数字double可以保留十进制15-16位,二进制52位有效数字,有效数字以后就被忽略了。因此大部分小数在计算机中是不精确的。