yangqq2013的专栏

原创 java浮点数精度丢失，如何最小化数值误差

IEEE 754是美国电气电子工程师协会通过地一个标准，用于在计算机上表示浮点数。Java采用32位IEEE 754表示float型，64位IEEE 754表示doubl型。在 IEEE 标准中，浮点数是将特定长度的连续字节的所有二进制位分割为特定宽度的符号域，指数域和尾数域三个域，其中保存的值分别用于表示给定二进制浮点数中的符号，指数和尾数。这样，通过尾数和可以调节的指数（所以称为"浮点"）就可