bcb中浮点数的四舍五入的问题

有关浮点数的位数的常用函数:

 四舍五入函数: FormatFloat("0.00", 小数); //四舍五入,保留两位小数

 按位截断函数: Format("%.2f", ARRAYOFCONST((小数))); //截断两位小数,不会四舍五入

 

今天我又使用了FormatFloat 函数来进行四舍五入,发现这个函数对有些浮点数可以四舍五入,有些浮点数却不行,例如:97.845,取两位小数的结果仍然是97.84,这下子我晕头了,四处找相应的四舍五入的函数。上网找了半天,发现这个下面这个可以进行函数四舍五入两位小数:

  double myround(double indata)
{
      if ( indata>0.00 )
      {
          return (int)(indata*100+0.5)/100.00;
      }
      else
     {
         return (int)((indata*100)-0.5)/100.00;
     }
}
 没想到这个函数对某些浮点数四舍五入的取值仍然不正确。没办法,我只好一次次尝试,终于找到一个可行的办法,只是还是有点没搞明白具体的原因。修改后的函数如下:

double myround(double indata)
{
      if ( indata>0.00 )
      {
          return (int)(indata*100+0.500000001)/100.00;
      }
      else
      {
          return (int)((indata*100)-0.500000001)/100.00;
      }
}

 

然后面mysql我也碰到了同样的浮点数的四舍五入的问题,mysql中的四舍五入函数是round.我用round(浮点数,2)来四舍五入取两位小数,结果同样发现这个函数对某些浮点数也不起作用,没办法在round方法中给浮点数加上一个很小的浮点数,问题也解决了。例如:round(浮点数+0.00000001,2),虽然知道这不是治本的方法,暂时没有想到更好的办法,目前也只能如此了。

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 2
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值