Impala invalidate metadata详细使用方法说明

本文详述了Impala中`invalidate metadata`的使用,通过测试得出结论,除对HDFS操作外,Impala内的数据修改无需手动同步元数据。使用此命令时通常不需要`-r`参数,若担心数据过时,断开重连即可。对HDFS操作时,建议使用`invalidate metadata`更新元数据。
摘要由CSDN通过智能技术生成

前言

Impala一直是我们各个业务使用的重点,但是在Impala的使用上感觉一直不是很成熟,比如说 invalidate metadata操作,到底什么时候该使用-r参数,什么时候不使用,什么时候可以用refresh代替,什么时候不可以,这一直是一个问题。因此有了这次的测试。

这次的测试目的就是为了对Impala的元数据方面的使用进行一个彻底的测试,给出一个比较明确答复。在最大的成都上来减缓Impala集群的压力。

测试准备

本次测试,分为外表和内表,分别对表和分区进行各种操作,然后记录不同的操作是否需要使用-r或者refresh。

测试主要在三台机器上进行,一台进行各种数据操作,另两台进行数据查询操作。

其中invalidate metadata tablenamerefresh tablename随机在各台机器上进行测试。

测试详情

下面就是测试详情。比较容易理解,不再解释。
impala测试结果

结论

测试的结果比较出乎意料,比较简单的一个结论就是,除了对hdfs进行操作外,只要通过impala的命令执行的数据修改,一律不需要进行元数据的同步工作,这就意味着,基本上所有脚本的-r参数都可以删除,查询语句的时候也不需要使用-r参数,如果害怕数据过期,那么断开重新连接即可。

注意:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值