odps-0121145:Data overflow - Convert from 1118542.386 to scale overflow

问题:
在使用odps sql 做除法运算时,出现如下错误信息:
odps-0121145:Data overflow - Convert from 1118542.386 to scale overflow

简化的SQL:

Select Case When Nvl(tt.b,0) = 0 Then 0 Else Round(Nvl(tt.a,0)/Nvl(tt.b,0) * 100,4) End col0 From 
(Select t.a,t.b From tab t) tt

其中
tt 为一段业务逻辑,这里使用一个简单的子查询代替;
a字段的取值为:1790786.36;
b字段的取值为:160.1;
计算结果 * 100 为:   1118542.38600874

解决:

由于没有找到具体出错原因,所以做了一个简单的猜测。然后规避掉该问题,并没有彻底解决这个错误。
初步猜测:在tt中底层表的字段类型为Decimal。在计算过程中,可能会导致结果集字段a和b的数据类型精度发生变化。
解决方式:将结果集的字段类型转换为double 再参与运算。 

Select Case When Nvl(tt.b,0) = 0 Then 0 Else Round(Nvl(tt.a,0)/Nvl(tt.b,0) * 100,4) End col0 From 
(Select Cast(t.a As Double) a,Cast(t.b As Double) b From tab t) tt

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值