qq_29076311的博客

转载 为什么在JAVA/JS程序中float浮点计算存在误差？

一．什么是浮点数计算机定义了两种小数，分别为定点数和浮点数。其中，定点数的小数点位置是固定的，在确定字长的系统中 一旦指定小数点的位置后，它的整数部分和小数部分也随之确定。二者之间独立表示，互不干扰。由于小数点位置是固定的，所以定点数能够表示的范围非常有限。应用不广泛，目前应用更广、更加复杂的是浮点数。它是采用科学计数法来表示的，由符号位、有效数字、指数三部分组成。使用浮点数存储和计算的场景无处...