浮点数在keil软件中出现的问题
大家可能会认为“万能的计算机是不会出现计算错误的”。但实际上,依然存在程序运行后无法得到正确数值的情况
其中,小数运算就是一个典型的例子
1:将 0.1 累加 100 次也得不到 10
代码清单 3-1 将 0.1 累加 100 次的 C 语言程序
#include <studio.h>
void main(){
float sum;
int i;
// 将保存总和的变量清 0
sum = 0;
//0.1 相加 100 次
for (i = 1; i <= 100; i++) {
sum += 0.1;
}
// 显示结果
printf("%f\n", sum);
}
在keil当中
虽然调试的时候的sum的值并不是准确的10,但是在它与10比较的时候,还是为真的,通过汇编可以知道,它经过了一段很长的代码,它取了一定的范围
通过如下调试你就知道优化到了什么程度了 ---6位值最多处理-不知道是因为编译器的原因(51),我将代码拷贝到了MDK中发现都不执行,我也不知道为什么,当你对小数进行处理的时候一定要调试一下,看看是否是我们想要的
如何避免计算机计算出错
忽略小数点后面的值
本章一开头讲过的将 0.1 相加 100 次这一计算, 就可以转换为将 0.1 扩大 10 倍后再将 1 相加 100次的计算, 最后把结果除以 10 就可以了
在C51编译器上,sum == 10能成立,大于6位小数也能成立。但是在ARM编译器上,sum == 10,能成立,其他的不能成立,其中调试的结果就是为10
即使这样sum = sum/10.0;sum的值也是为10