输出精度问题

浏览论坛看到一篇java关于精度的文章，联想到C++是不是同样的情况。玩一玩记录一下！

先来看一道简单数学问题：5.85-3.21=？然后写入代码测试。

嗯，正确。好的，java真垃圾，关上电脑。

（欸欸欸，别打我！）

但这是真的吗？我们单步运行试试。

   

        嗯？好像有点小问题。为什么呢？

        众所周知，我们的计算机是二进制的。浮点数没有办法是用二进制进行精确表示。我们的CPU表示浮点数由两个部分组成：指数和尾数，这样的表示方法一般都会失去一定的精确度，有些浮点数运算也会产生一定的误差。如：2.4的二进制表示并非就是精确的2.4。反而最为接近的二进制表示是 2.3999999999999999。浮点数的值实际上是由一个特定的数学公式计算得到的。 

         float只能用来进行科学计算或工程计算，在大多数的商业计算中，java一般采用java.math.BigDecimal类来进行精确计算。C++推荐GMP/MPIR/MPFR/NTL/FLINT等高精度库

 那么为什么最后输出的数又是准确的呢？其实这是个假象。

 

因为编译器的流输出数值有效位是6，四舍五入就造成了输出正确的假象。setprecision(n)可控制输出流显示浮点数的数字个数。

 

番外：2/0的时候程序会报ArithmeticException的错误，那么2.0/0的结果是什么呢？

Infinity（英菲尼迪） 有趣！