问题:
在使用odps sql 做除法运算时,出现如下错误信息:
odps-0121145:Data overflow - Convert from 1118542.386 to scale overflow
简化的SQL:
Select Case When Nvl(tt.b,0) = 0 Then 0 Else Round(Nvl(tt.a,0)/Nvl(tt.b,0) * 100,4) End col0 From
(Select t.a,t.b From tab t) tt
其中
tt 为一段业务逻辑,这里使用一个简单的子查询代替;
a字段的取值为:1790786.36;
b字段的取值为:160.1;
计算结果 * 100 为: 1118542.38600874
解决:
由于没有找到具体出错原因,所以做了一个简单的猜测。然后规避掉该问题,并没有彻底解决这个错误。
初步猜测:在tt中底层表的字段类型为Decimal。在计算过程中,可能会导致结果集字段a和b的数据类型精度发生变化。
解决方式:将结果集的字段类型转换为double 再参与运算。
Select Case When Nvl(tt.b,0) = 0 Then 0 Else Round(Nvl(tt.a,0)/Nvl(tt.b,0) * 100,4) End col0 From
(Select Cast(t.a As Double) a,Cast(t.b As Double) b From tab t) tt