解决NameNode配置HA后Hive路径不正确的问题

在CDH5.7环境中,配置NameNode高可用(HA)后,Hive查询出现异常,无法正常工作,而其他如HDFS、HBase、Spark等组件运行正常。问题根源在于Hive元数据中的DBS和SDS表记录了旧的HDFS路径。为解决此问题,可以更新Hive数据库中这两张表的路径,将它们改为HA的别名。通过在MySQL中执行SQL更新语句,可以便捷地完成字段内容替换,从而修复Hive的查询功能。
摘要由CSDN通过智能技术生成

解决NameNode配置HA后Hive路径不正确的问题


在CDH5.7下,配置了NameNode的HA后,Hive无正常查询数据了,但是其他的组件HDFS , HBase ,Spark都正常的。

Hive查询会出现如下异常:

FAILED: SemanticException Unable to determine if hdfs://bdc240.hexun.com:8020/user/hive/warehouse/test1 is encrypted: java.lang.IllegalArgumentException: Wrong FS: hdfs://bdc240.hexun.com:8020/user/hive/warehouse/test1, expected: hdfs://nameservice1


各种重装服务折腾都没有解决。


经朋友提醒应该是Hive元数据的问题,在Hive数据库中有两张表:

DBS  : Hive数据仓库的总路径

SDS  : Hive每张表对应的路径


数据库中保存了原来的hdfs的路径,修改成HA对应的别名即可


通常元数据库都采用mysql使用sql进行字段内容替换非常方便:

相关sql规范:

update 表名 set 字段名=REPLACE (字段名,'原来的值','要修改的值')

修改范例:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值