读了第三章,发现计算机处理小数运算跟我们自己要算的还是不太一样,结果有点偏差。无法正确表示的数值,最后都变成了近似值。尤其是在处理循环小数的时候应当注意。浮点数的表现形式由符号尾数基数指数四部分构成。
书上的内容不是仅仅读一遍就能马上理解的,需要在实际的程序中加以确认。在实际操作中,应该正确避免计算机计算出错,一是回避策略,无视这些错误,二是把小数转换成整数来计算。老师说过,计算机是通过二进制来处理数据的,由此可见,二进制多么重要。
读了第三章,发现计算机处理小数运算跟我们自己要算的还是不太一样,结果有点偏差。无法正确表示的数值,最后都变成了近似值。尤其是在处理循环小数的时候应当注意。浮点数的表现形式由符号尾数基数指数四部分构成。
书上的内容不是仅仅读一遍就能马上理解的,需要在实际的程序中加以确认。在实际操作中,应该正确避免计算机计算出错,一是回避策略,无视这些错误,二是把小数转换成整数来计算。老师说过,计算机是通过二进制来处理数据的,由此可见,二进制多么重要。
转载于:https://www.cnblogs.com/mwt63/p/10325626.html