float 类型精度和两数比较大小

1. Windows VS2008 下,float型精度是7位小数.
2. 在精度范围内,可以直接用< , > , == 逻辑判断两个float类型数据的大小.
3. 在精度范围之外,多余数位将被忽略,从而分不同情况 :
4. 以下是小数位为9,8,7的验证.结果证明 7位为有效小数位数,>7位的都忽略.

• 若多余位之前的有效位数字相等 , 则判断为两数相等 , 既多余位已经不起作用;
• 若多余位之前的有效位数字不等, 则依据有效位进行> ,<, == ,>= ,<= 的逻辑判断.

?

1 2 3 4 5 6 7 8 9 10 11 12

void floatSub() {      float a = 0. 854698762;      float b = 0.854698763;      if (a < b) {          cout<< "a < b\n" ;      }      else if (a == b) {          cout<< "a = b\n" ;      }      else          cout<< "a > b\n" ; }

?

1 2 3 4 5 6 7 8 9 10 11 12

void floatSub() {     float a = 0.85462836;     float b = 0.85462839;      if (a < b) {          cout<< "a < b\n" ;      }      else if (a == b) {          cout<< "a = b\n" ;      }      else          cout<< "a > b\n" ; }

?

1 2 3 4 5 6 7 8 9 10 11 12

void floatSub() {      float a = 0.8546286;      float b = 0.8546289;      if (a < b) {          cout<< "a < b\n" ;      }      else if (a == b) {          cout<< "a = b\n" ;      }      else          cout<< "a > b\n" ; }

?

1

?

1

7位以下小数位都可以进行比较逻辑运算.

float是单精度型占4个字节（32位），只能提供7位有效数字，小数点后最多保留6位。
double是双精度型占4个字节（64位），只能提供16位有效数字，小数点后最多保留6位。