字符串转换为浮点数时如何避免精度损失

字符串转换为浮点数的函数,标准C提供的函数是atof(char *),C++ Builder 提供了一个函数 StrToFloat(AnsiString *),但是如果你直接定义一个浮点数变量,将字符串转换为单精度浮点数的话,很容易出问题,出现精度误差,下面给出一个简单的例子

char *strDemo ="0.00100";

float fDat;

fDat = atof(strDemo);

ShowMessage(fDat);

上面代码的运算结果为:0.00100000004749475,存在明显的转换误差。


仔细看了一下字符串转换为浮点数的函数定义:double atof(const char *s);

atof()函数的返回值类型是double类型的,如果将其赋值为一个单精度的浮点数,肯定存在精度损失,找到了原因所在,将上面代码中的float修改成double,编译运行,显示结果为0.001。


OK! 问题解决。




  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值