DECIMAL函数MYSQL详解

最新推荐文章于 2025-01-17 20:16:03 发布

船长

最新推荐文章于 2025-01-17 20:16:03 发布

阅读量9.8k

点赞数 2

本文链接：https://blog.csdn.net/weixin_45921714/article/details/119598647

版权

本文探讨了在SQL中使用DECIMAL类型时，如何避免四舍五入导致的计算错误。通过实例说明了不同精度设置对1.5这个数值的影响，并提供了精确控制小数位数的方法。

摘要由CSDN通过智能技术生成

1.场景：
数据要sum()求和，字段值有小数，当进行计算时，进行了四舍五入，导致计算错误。

1.1.模拟线上sql：期望值是1.5，但是结果为2，由此引发了问题

select sum(CAST(1.5 as DECIMAL)）; //结果：2

1.2.扩展sql:

select CAST(1.5 as DECIMAL); //结果：2
select CAST(1.5 as DECIMAL(18, 2)); //结果：1.5
1
2
2.知识：

DECIMAL精度和小数位数的默认值分别是18与0。如果在decimal类型中不提供这两个值，那么默认四舍五入。

select CAST(1.5 as DECIMAL); //结果：2
select CAST(1.4 as DECIMAL); //结果：1

DECIMAL(18,2)，精度和小数位数的设置是18和2。如果超过了2位小数，则将超过的部分进行四舍五入，最后保留2位小数

select CAST(1.545 as DECIMAL(18, 2)); //结果：1.55
select CAST(1.452 as DECIMAL(18, 2)); //结果：1.45
————————————————
版权声明：本文为CSDN博主「沐风Cc」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/mufeng633/article/details/116707986