- 博客(4)
- 收藏
- 关注
原创 为什么大部分小数在计算机中是不精确的
15转为二进制:15/2 会得到商和余数两部分,我们持续对他除2直到商为0为止,这时,自下而上,余数组合起来便是15对应的二进制。最终,15.6这个有限的小数表示为二进制为:1111.1001 1001 1001.... 因此,大部分小数在计算机中是不精确的。第四步:0.8 * 2 = 1.6 给其对应的二进制小数点后补1,余0.6,我们继续对它乘2。第一步:0.6 * 2 = 1.2 给其对应的二进制小数点后补1,余0.2,我们继续对它乘2。有的十进制小数部分转换为二进制小数部分,会。
2023-04-04 18:02:22 94 1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人