Sql 中两个数除法计算结果等于0原因是什么？

最新推荐文章于 2023-07-24 11:35:33 发布

胖太乙

最新推荐文章于 2023-07-24 11:35:33 发布

阅读量1w

点赞数 7

分类专栏： Sql Server 文章标签： sql 精度

本文链接：https://blog.csdn.net/IT_rookie_newbie/article/details/120740847

版权

8 篇文章 1 订阅

订阅专栏

问题

今天执行一个存储过程的时候，发现执行结果和预期的结果不一致，但是存储过程并没有发生错误！于是就一句一句的去查找问题，最后发现是在对两个数字进行除法计算的时候产生的问题。我惊奇的发现 138 / 365 竟然等于 0。我第一反应就是精度的问题（毕竟javaScript 也有类似的问题）。

来验证一下这个结论：
Sql 中两个数除法计算结果等于0原因是什么？
结果显而易见，就是由于计算精度造成的。这是因为SQL Server会自动根据除数与被除数的最大精度去对运算结果取精度，这里的除数和被除数都是整数，所以得到的结果也是整数。

如果不信，我们再来试试
Sql 中两个数除法计算结果等于0原因是什么？

可以通过在整数后面加上.0 来改变精度。也可以通过 Convert 函数来讲整数转换成其他的类型后进行计算。

-- 方法一
SELECT  138.0 / 365.0 Result1

--方法二
SELECT  ( CONVERT(FLOAT, 138) / CONVERT(FLOAT, 365) ) Result2

关注