sqlserver和DB2等数据库,计算分式的结果为0,计算power函数,当幂次为负数时结果为0等问题的解决记录

今天工作遇到一个小问题,sqlserver和DB2等数据库,计算分式的结果为0,计算power函数,当幂次为负数时结果为0:

select round(1/252)
select power(5-2

结果应该是0.04,但是结果却是0.0,尝试了计算power(5,-1)结果是0.2,推测可能是保留了一位小数,难以计算负次幂的情况,而1/25,是因为分母过大,整个分式默认转变为0了,导致计算错误:
解决方法很简单:

select round(1/25*1.02

power函数要进行分段处理:

String formatSql = Integer.valueOf(paramSqlList.get(1))>=0?"POWER(%s,%s)":"ROUND(1/(POWER(%s,%s*-1)*1.0),10)";

即可正确计算分式和power函数的负次幂情况。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
©️2022 CSDN 皮肤主题:深蓝海洋 设计师:CSDN官方博客 返回首页
评论

打赏作者

Aaron__Gao

你的鼓励将是我创作的最大动力

¥2 ¥4 ¥6 ¥10 ¥20
输入1-500的整数
余额支付 (余额:-- )
扫码支付
扫码支付:¥2
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。

余额充值