hive表锁和分区锁

前言:

最近一直有同事过来问锁相关的问题,其实锁无非就共享锁和互斥锁,
我发现他们大部分的都是手动终止了任务,又重新提交,
还有一种情况是依赖没配,下游其他任务在查这个分区的数据,自己的任务在执行中,也会锁表
这样就会导致hivesql一直没有处于卡死状态,没有执行下去。
其主要原因是:hive的分区表锁没有释放掉,
而你去执行unlock table 库名.表名;只是对表进行了解锁,
表本身上的分区锁还在,并没有被释放,因此你再执行的话,hive会检查到目标表上的分区还有锁,导致脚本无法执行

关于共享锁和互斥锁可以参考下面链接:
https://blog.csdn.net/mnasd/article/details/81452738

解决方案
针对你的分区锁进行解锁

unlock table 库名.表名 partition(分区='***');

这种只能是在执行完以后发现被锁了,手动去解锁。
为了以防万一,可以在脚本里添加如下几行,避免以后再发生

(1)先添加分区
alter table 库名.表名 add if not exists partition(分区='***');
(2)对该分区加共享锁
lock table servyou_tmp.tmp_ligq_0623 partition(分区='***') Shared;
(3)再将分区的锁解开
unlock table 库名.表名 partition(分区='***');
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值