float和double存储类型为什么是非精确存储
float和double存储类型为什么是非精确存储
计算机并不能直接地精确存储十进制小数
计算机使用二进制数来存储我们的数据,而二进制数并不能直接的精确存储十进制小数
我们人类常常使用十进制进行运算,所以可能没有注意到进制与进制之间并一定能精确转换,比如三进制的 0.1 ,在十进制中是0.33的无限循环,二进制和十进制也类似。
举个粒子,十进制的 0.6 相当于二进制的 11/101 ,我们来算...
原创
2020-01-01 04:27:25 ·
489 阅读 ·
0 评论