- Windows VS2008 下,float型精度是7位小数.
- 在精度范围内,可以直接用< , > , == 逻辑判断两个float类型数据的大小.
- 在精度范围之外,多余数位将被忽略,从而分不同情况 :
- 以下是小数位为9,8,7的验证.结果证明 7位为有效小数位数,>7位的都忽略.
- 若多余位之前的有效位数字相等 , 则判断为两数相等 , 既多余位已经不起作用;
- 若多余位之前的有效位数字不等, 则依据有效位进行> ,<, == ,>= ,<= 的逻辑判断.
1
2
3
4
5
6
7
8
9
10
11
12
|
void
floatSub() {
float
a = 0.
854698762;
float
b = 0.854698763;
if
(a < b) {
cout<<
"a < b\n"
;
}
else
if
(a == b) {
cout<<
"a = b\n"
;
}
else
cout<<
"a > b\n"
;
}
|
1
2
3
4
5
6
7
8
9
10
11
12
|
void
floatSub() {
float
a = 0.85462836;
float
b = 0.85462839;
if
(a < b) {
cout<<
"a < b\n"
;
}
else
if
(a == b) {
cout<<
"a = b\n"
;
}
else
cout<<
"a > b\n"
;
}
|
1
2
3
4
5
6
7
8
9
10
11
12
|
void
floatSub() {
float
a
= 0.8546286;
float
b = 0.8546289;
if
(a < b) {
cout<<
"a < b\n"
;
}
else
if
(a == b) {
cout<<
"a = b\n"
;
}
else
cout<<
"a > b\n"
;
}
|
1
|
|
1
|
|
7位以下小数位都可以进行比较逻辑运算.
float是单精度型占4个字节(32位),只能提供7位有效数字,小数点后最多保留6位。
double是双精度型占4个字节(64位),只能提供16位有效数字,小数点后最多保留6位。