快速清理hdfs目录已删除的hive表分区

背景:此前因测试环境hdfs存储空间不足,利用hadoop fs -du -s命令查看后,顺手hadoop fs -rmr删除了存储较大的分区目录。此时并没有删除分区元数据信息。

今天在测试hive表ORCFile格式存储压缩率时,恰好用到之前的表来初始化数据,在写入数据时报了原表分区目录不存在的错误。

本以为使用msck repair table会自动清理掉分区,但查资料后发现该命令只负责”新增“对应目录的分区,不负责”清理“工作。看了几篇文章后,我决定把自己的解决方案发出来,因为它足够简单。

1.使用msck repair table ${tablename},此时会将有分区但没有对应目录的分区信息全部列出
2.由于本例中我的分区字段是day,删除的目录都是2020年的,所以直接使用alter table ${tablename} drop partition(day<'2021-01-01') 即可。
3.对于其他不规则的分区,如果可以指定上界或者下界,该方法适用;
4.对于需要精准匹配的情况,可以通过文本编辑器,将步骤1结果中的每个分区处理成单条命令执行,例如:

alter table ${tablename} drop partition(partition='A');
alter table ${tablename} drop partition(partition='B');
alter table ${tablename} drop partition(partition='C');
  • 1
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值