- 博客(1)
- 收藏
- 关注
转载 为什么在JAVA/JS程序中float浮点计算存在误差?
一.什么是浮点数计算机定义了两种小数,分别为定点数和浮点数。其中,定点数的小数点位置是固定的,在确定字长的系统中 一旦指定小数点的位置后,它的整数部分和小数部分也随之确定。二者之间独立表示,互不干扰。由于小数点位置是固定的,所以定点数能够表示的范围非常有限。应用不广泛,目前应用更广、更加复杂的是浮点数。它是采用科学计数法来表示的,由符号位、有效数字、指数三部分组成。使用浮点数存储和计算的场景无处...
2019-04-24 09:58:56
686
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人