Mysql的Decimal()函数

1.场景:
数据要sum()求和,字段值有小数,当进行计算时,进行了四舍五入,导致计算错误。

1.1.模拟线上sql:期望值是1.5,但是结果为2,由此引发了问题

select sum(CAST(1.5 as DECIMAL)); //结果:2

1.2.扩展sql:

select CAST(1.5 as DECIMAL);			//结果:2
select CAST(1.5 as DECIMAL(18, 2));		//结果:1.5

2.知识:

DECIMAL精度和小数位数的默认值分别是18与0。如果在decimal类型中不提供这两个值,那么默认四舍五入。

select CAST(1.5 as DECIMAL); //结果:2
select CAST(1.4 as DECIMAL); //结果:1

DECIMAL(18,2),精度和小数位数的设置是18和2。 如果超过了2位小数,则将超过的部分进行四舍五入,最后保留2位小数

select CAST(1.545 as DECIMAL(18, 2)); //结果:1.55
select CAST(1.452 as DECIMAL(18, 2)); //结果:1.45

线上报出的统计计算问题,当时还很肯定没有错,经过验证发现确实是自己的Bug,特此记录一下。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值