Impala踩到的一些坑

#作者原创,转载请注明出处

整理电脑资料的时候偶然翻出了之前的工作笔记。在此记录一下之前在成都某银行使用Impala踩到的坑

1.Impala不支持select-list(字段子查询,select到from中间)的子查询,需要转化成表连接。左连接原来子查询的表,表连接的条件使用子查询的筛选条件就好。

2.DBeaver里向数据库插入数据时,中文出现乱码,解决方法:dbeaver中编辑数据库连接,连接属性中Optimizedinsert值设置成0.#插入函数处理中文的过程中会产生乱码

3.Impala类型检查比较严格,貌似不支持Oracle的隐式转换,字符串的数字和数字类型的数字有区别。表拼接的时候字段类型要符合建表字段类型。

4.DBeaver里面Oracle的SQL行尾可以直接加注释,Impala需要空格后加注释,貌似是impala中注释吃掉了换行符,导致解析错误。。。(猜的,没管那么多)

5.Impala的表连接条件里面使用了OR导致运行时间非常长。几秒钟的SQL跑个十几分钟还没结束。解决方法:使用表拼接来代替。

6.数据插入表里面之后需要执行compute stats语句提高查询效率

7.由于不支持select-list的标量子查询,使用表连接来代替可能会产生非常多的冗余数据。没有合适的维度表数据会膨胀非常厉害。所以按照减少字段返回,仅保留关键字段的SQL优化思路优化即可。比如同样的需求,没有优化的表连接同事跑了两三个钟头,优化后两分钟跑完

8.Oracle上实践貌似表连接比子查询快很多。比如同样的表,子查询要28秒,表连接只要21秒,提升25%。个别除外

高脚羚羊是真滴快~~

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值