c++ double类型的误差

将字符串转化为double类型存在误差,例如:

字符串为1.89转化为double类型为:1.8899999999999.

这是正常的。

在c语言中头文件float.h中有如下定义:

#define DBL_EPSILON     2.2204460492503131e-016 /*smallest such that 1.0+DBL_EPSILON != 1.0 */

也就是说,只要使用double类型,如果两个double类型的数的差小于DBL_EPSILON,这两个数就是相等的。这是使用double类型的前提。

 

可以测试一下: 

double f  =  1.89 – atof(“1.89”);

f 为零。因为1.89 – atof(“1.89”)的差值小于DBL_EPSILON,它们就是相等的。

 

结论:这是正常的,所谓的精度误差是使用double类型必须接受的。

  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值