文章目录
|
数据类型 | 含义 | 取值范围 | 有效数字位数 |
---|---|---|---|
float | 32位浮点数 | ±1.5X10^-45 ~ 3.4X10^38 | 7 |
double | 64位浮点数 | ±5.0X10^-324 ~ 1.7X10^308 | 15 ~ 16 |
注意: 浮点数有一定的取值范围和有效数字限制,超出规定范围的数据是无法表示的。float类型精度为7位有效数字,因此float的值经常会有些误差。例如,10减去0.9得到的结果不是0.1,而是接近0.099999999的值。
|
|
|
数据类型 | 含义 | 取值范围 | 有效数字位数 |
---|---|---|---|
float | 32位浮点数 | ±1.5X10^-45 ~ 3.4X10^38 | 7 |
double | 64位浮点数 | ±5.0X10^-324 ~ 1.7X10^308 | 15 ~ 16 |
注意: 浮点数有一定的取值范围和有效数字限制,超出规定范围的数据是无法表示的。float类型精度为7位有效数字,因此float的值经常会有些误差。例如,10减去0.9得到的结果不是0.1,而是接近0.099999999的值。
|
|
>