#作者原创,转载请注明出处
整理电脑资料的时候偶然翻出了之前的工作笔记。在此记录一下之前在成都某银行使用Impala踩到的坑
1.Impala不支持select-list(字段子查询,select到from中间)的子查询,需要转化成表连接。左连接原来子查询的表,表连接的条件使用子查询的筛选条件就好。
2.DBeaver里向数据库插入数据时,中文出现乱码,解决方法:dbeaver中编辑数据库连接,连接属性中Optimizedinsert值设置成0.#插入函数处理中文的过程中会产生乱码
3.Impala类型检查比较严格,貌似不支持Oracle的隐式转换,字符串的数字和数字类型的数字有区别。表拼接的时候字段类型要符合建表字段类型。
4.DBeaver里面Oracle的SQL行尾可以直接加注释,Impala需要空格后加注释,貌似是impala中注释吃掉了换行符,导致解析错误。。。(猜的,没管那么多)
5.Impala的表连接条件里面使用了OR导致运行时间非常长。几秒钟的SQL跑个十几分钟还没结束。解决方法:使用表拼接来代替。
6.数据插入表里面之后需要执行compute stats语句提高查询效率
7.由于不支持select-list的标量子查询,使用表连接来代替可能会产生非常多的冗余数据。没有合适的维度表数据会膨胀非常厉害。所以按照减少字段返回,仅保留关键字段的SQL优化思路优化即可。比如同样的需求,没有优化的表连接同事跑了两三个钟头,优化后两分钟跑完
8.Oracle上实践貌似表连接比子查询快很多。比如同样的表,子查询要28秒,表连接只要21秒,提升25%。个别除外
高脚羚羊是真滴快~~