sqlserver和DB2等数据库，计算分式的结果为0，计算power函数，当幂次为负数时结果为0等问题的解决记录

Aaron__Gao

于 2021-07-20 11:54:35 发布

阅读量680

点赞数

文章标签： java sql 数据库

本文链接：https://blog.csdn.net/gyl1050097468/article/details/118931792

版权

今天工作遇到一个小问题，sqlserver和DB2等数据库，计算分式的结果为0，计算power函数，当幂次为负数时结果为0：

select round（1/25，2）
select power（5，-2）

结果应该是0.04，但是结果却是0.0，尝试了计算power（5，-1）结果是0.2，推测可能是保留了一位小数，难以计算负次幂的情况，而1/25，是因为分母过大，整个分式默认转变为0了，导致计算错误：
解决方法很简单：

select round（1/25*1.0，2）

power函数要进行分段处理：

String formatSql = Integer.valueOf(paramSqlList.get(1))>=0?"POWER(%s,%s)":"ROUND(1/(POWER(%s,%s*-1)*1.0),10)";

即可正确计算分式和power函数的负次幂情况。

关注