《程序是怎样跑起来的》第三章

  本章讲的是计算机进行小数运算时出错的原因。在我读本章之前我认为计算机是万能的它是不会出错的，但是在读过本章的内容之后让我认识到原来计算机也不是十全十美的，原来计算机也会出错，原来也有计算机表示不出来的数值。例如有些十进制数的小数无法转换成二进制数，就像十进制数0.1，就无法用二进制数正确表示，小数点后面即使有几位也无法表示出来。那么如何来避免计算机计算出错呢？在本章的最后作者介绍了两种方法：第一是回避策略，就是无视这些错误。（根据程序的目的的不同，有时一些微小的偏差不会造成什么问题）。第二是把小数转换成整数来计算。（计算机在进行小数计算时可能会出错惊醒心境带今年，但进行整数计算（不超过可处理的数值范围）时一定不会出错）。

转载于:https://www.cnblogs.com/lcy666/p/10327263.html