为什么计算机中大部分小数是不精确的

目录

一、计算机存储数据

 二、为什么计算机中大部分小数是不精确的

---

一、计算机存储数据

计算机存储数据是采用 '0' 和 '1' 这样的二进制数存储的。计算机会将十六进制、十进制、八进制等其他进制转为二进制存储在硬盘中，当我们需要查看的时候，计算机会将二进制转成其他进制供我们查看。 

       例：十进制整数99

       例：十进制小数10.125

 

 二、为什么计算机中大部分小数是不精确的

因为有些十进制小数或者小数部分转为二进制，会无限循环。

       例：十进制的0.6，转为二进制为  0.1001 1001 1001......（无限循环）

而在计算机中，不同的数据类型有不同的范围

       例:4个字节的浮点数大致范围是  -2^127~2^127

           8个字节的浮点数大致范围是  -2^1023~2^1023

所以类似于0.6这样的数，在计算机中存储只是一个大致值，是不精确的。