为什么大部分小数在计算机中是不精确的

目录

浮点数存储结构：

十进制小数转换成二进制小数的规则：

例如：2.5转换二进制小数

---

计算机的数字的存储和运算都是通过二进制进行的,十进制的数要转换成二进制在进行存储和运算.

float和double的小数部分会出现无限循环的情况，所以会出现不准确的情况。

浮点数存储结构：

计算机存储浮点数分三部分：符号位：1正，0负

                                               指数位：阶数的二进制码，是一个无符号的整数，但是阶数既可以是正数也可以是负数，那么就需要有一个偏移量（单精度偏移量为127，双精度偏移量为1023），则真正的阶数=移码指数-偏移量。

                                               尾数位：有效数字

1

0

0

0

0

0

0

0

0

23位有效数字

数据类型	所占字节	表示范围
float(单精度)	4字节（32bit）	-3.403E38--3.403E38
double(双精度)	8字节（64bit）	-1.798E308--1.798E308

单精度浮点数32位=1位符号位+8位指数位+23位有效数字

双精度浮点数64位=1位符号位+11位指数位+52位有效数字

十进制小数转换成二进制小数的规则：

1.整数部分转整数，小数部分转小数。

2.小数部分：十进制的值一直乘以2；结果如果大于1，整数部分清零（在二进制小数后补1）

                                                    结果如果不大于1（在二进制小数后补0）

例如：2.5转换二进制小数

整数转整数

2 = 0000 0010

小数转小数

0.5 =011001100110011001100110011001100110011001100110011.....(无限循环小数)

0000 0010.0110 0110 0110 0110 0110 0110 0110 0110 0110011001100110011...=1.0011 0011 0011 0011 0011 001*2^1

1位	指数位	尾数为(23位)	丢弃
0	10000000	0011 0011 0011........	10 0110 0110 ....

计算机保存浮点数精度有限，float可以保留十进制最多7位(二进制23位)有效数字double可以保留十进制15-16位,二进制52位有效数字,有效数字以后就被忽略了。因此大部分小数在计算机中是不精确的。