浮点数精度问题

今天在sentry报告了一个诡异的错误

具体就是ping++回调的金额与订单金额不一致.

查看数据时发现订单中金额为532.8而ping++中金额为53279,wtf,为什么会少一分钱呢

  于是尝试 输出 532.8 * 100 (ps: 因为ping++支付金额单位为分) 结果 53280.0  but 一旦转为整形就为 53279 诡异的精度丢失    

  解决办法 对 ceil(532.8 * 100 ) 将精度调准后 再转为整形进不会有精度丢失了

 

转载于:https://www.cnblogs.com/nephyzw/p/11116569.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值