前言:
最近一直有同事过来问锁相关的问题,其实锁无非就共享锁和互斥锁,
我发现他们大部分的都是手动终止了任务,又重新提交,
还有一种情况是依赖没配,下游其他任务在查这个分区的数据,自己的任务在执行中,也会锁表
这样就会导致hivesql一直没有处于卡死状态,没有执行下去。
其主要原因是:hive的分区表锁没有释放掉,
而你去执行unlock table 库名.表名;只是对表进行了解锁,
表本身上的分区锁还在,并没有被释放,因此你再执行的话,hive会检查到目标表上的分区还有锁,导致脚本无法执行
关于共享锁和互斥锁可以参考下面链接:
https://blog.csdn.net/mnasd/article/details/81452738
解决方案
针对你的分区锁进行解锁
unlock table 库名.表名 partition(分区='***');
这种只能是在执行完以后发现被锁了,手动去解锁。
为了以防万一,可以在脚本里添加如下几行,避免以后再发生
(1)先添加分区
alter table 库名.表名 add if not exists partition(分区='***');
(2)对该分区加共享锁
lock table servyou_tmp.tmp_ligq_0623 partition(分区='***') Shared;
(3)再将分区的锁解开
unlock table 库名.表名 partition(分区='***');