C++浮点数float转int精度丢失解决

32 篇文章 3 订阅
19 篇文章 1 订阅

我在开发时,遇到这样一种场景:
1.需要传递浮点数, 将浮点数转成int或者uint类型传输。(固定条件不能改)
2.例如传递65.533, 那么把这个数乘以1000,变成65533,然后再传输。

遇到的问题是,我用float类型保存65.533,结果他在内存中的保存形式为65.5329971, 乘以1000然后取整变成了65532!
解决方法:经过他人指导,采用round()函数,将变量四舍五入,然后在转成整数就可以了。

    float tt = 65.533;
    int ans = static_cast<int>(1000*tt);        //65532
    int ans2 = static_cast<int>(round(1000*tt));    //65533

  • 3
    点赞
  • 16
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值