1.场景:
数据要sum()求和,字段值有小数,当进行计算时,进行了四舍五入,导致计算错误。
1.1.模拟线上sql:期望值是1.5,但是结果为2,由此引发了问题
select sum(CAST(1.5 as DECIMAL)); //结果:2
1.2.扩展sql:
select CAST(1.5 as DECIMAL); //结果:2
select CAST(1.5 as DECIMAL(18, 2)); //结果:1.5
2.知识:
DECIMAL精度和小数位数的默认值分别是18与0。如果在decimal类型中不提供这两个值,那么默认四舍五入。
select CAST(1.5 as DECIMAL); //结果:2
select CAST(1.4 as DECIMAL); //结果:1
DECIMAL(18,2),精度和小数位数的设置是18和2。 如果超过了2位小数,则将超过的部分进行四舍五入,最后保留2位小数
select CAST(1.545 as DECIMAL(18, 2)); //结果:1.55
select CAST(1.452 as DECIMAL(18, 2)); //结果:1.45
线上报出的统计计算问题,当时还很肯定没有错,经过验证发现确实是自己的Bug,特此记录一下。