Hive的MSCK命令

MSCK-全称metastore consistency check,即Hive表分区连贯性检查。
MSCK REPAIR TABLE XXX,我们可以简单的将它理解为"刷新分区",
其主要是用来解决通过hdfs dfs -put或者hdfs api写入hive分区表的数据在hive中无法被查询到的问题。
Hive能检测到的分区信息,同database、table等一样,是Hive的元数据信息之一,存储在Derby、MySQL等数据库中。
怎么新建分区,分区信息才会存储到MySQL中?

方式1:插入数据前,使用alter table xxx add partition()创建分区;
方式2:插入数据时,使用insert into table xxx partition() value()创建分区,
怎么新建分区,分区信息不会存储到MySQL中?

Hive的数据实际存储在HDFS中,以多层目录的形式存储。
方式1:直接使用hdfs -put向HDFS中创建目录,上传数据:
方式2:通过其他形式,直接向Hive表在HDFS中的存储位置创建分区,建立数据。比如服务端DB通过kafka直接将数据落地到HDFS。

以上两种情况都不会在MYSQL存储的元数据信息中添加新分区信息。

如果以上两种方式新的元数据信息添加到了HDFS中,却没有添加到MYSQL中,这时就需要使用MSCK REPAIRE TABLE xxx 进行"刷新分区"了.
  • 2
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

早拾碗吧

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值