以单片机思维理解书籍《程序是如何跑起来的》-03章

 浮点数在keil软件中出现的问题

大家可能会认为“万能的计算机是不会出现计算错误的”。但实际上,依然存在程序运行后无法得到正确数值的情况
其中,小数运算就是一个典型的例子
 

1:将 0.1 累加 100 次也得不到 10

代码清单 3-1 将 0.1 累加 100 次的 C 语言程序
#include <studio.h>
void main(){
float sum;
int i;
// 将保存总和的变量清 0
sum = 0;
//0.1 相加 100 次
for (i = 1; i <= 100; i++) {
sum += 0.1;
}
// 显示结果
printf("%f\n", sum);
}

在keil当中 

  

虽然调试的时候的sum的值并不是准确的10,但是在它与10比较的时候,还是为真的,通过汇编可以知道,它经过了一段很长的代码,它取了一定的范围 

 

通过如下调试你就知道优化到了什么程度了 ---6位值最多处理-不知道是因为编译器的原因(51),我将代码拷贝到了MDK中发现都不执行,我也不知道为什么,当你对小数进行处理的时候一定要调试一下,看看是否是我们想要的

 

 

如何避免计算机计算出错
 

忽略小数点后面的值

本章一开头讲过的将 0.1 相加 100 次这一计算, 就可以转换为将 0.1 扩大 10 倍后再将 1 相加 100次的计算, 最后把结果除以 10 就可以了
 

 在C51编译器上,sum == 10能成立,大于6位小数也能成立。但是在ARM编译器上,sum == 10,能成立,其他的不能成立,其中调试的结果就是为10

即使这样sum = sum/10.0;sum的值也是为10

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值