现象描述
使用round()四舍五入保留小数的时候异常
原因
官方文档的Round函数说明:
- For exact-value numbers, ROUND() uses the “round half up” rule(对于精确的数值, ROUND 函数使用四舍五入)
- For approximate-value numbers, the result depends on the C library. On many systems, this means that ROUND() uses the “round to nearest even” rule: A value with any fractional part is rounded to the nearest even integer. (对于近似值,则依赖于底层的C函数库,在很多系统中 ROUND 函数会使用“取最近的偶数”的规则)
这样就很明白了,在计算机的计算领域里,包括JAVA里的double,float都不算是精准的计算类型,所以Round的计算就默认的走了第二条规则。
问题重现
1.创建了学生考试信息表记录考生成绩
可以看到,成绩列我们是用double类型记录
2.向该表添加一些数据
3.计算考生平均成绩
select avg(score) as avgScore from exm_pap_tik;
计算考生平均成绩并四舍五入保留一位小数
select round(avg(score),1) from exm_pap_tik;
观察结果我们发现问题,这里round()按照文档中说明的第二条,取最近的偶数,导致不是四舍五入的结果。
解决方法
1.使用convent函数
select convert(avg(score),decimal(10,1)) from exm_pap_tik;
结果正确
2.使用精确的数据类型存储分数字段
修改score的数据类型为decimal
select round(avg(score),1) from exm_pap_tik;
可以看到,round()按照第一条规则,正确的计算出了我们想要的结果。