关于集群namenode做HA后产生hdfs路径改变的问题
报错:
FAILED: SemanticException Unable to determine if hdfs://master:9000/user/hive/warehouse/study.db/hive1 is encrypted: java.lang.IllegalArgumentException: Wrong FS: hdfs://master:9000/user/hive/warehouse/study.db/hive1, expected: hdfs://cluster
解决方法一:
进入到hive/bin目录下
cd /usr/local/soft/hive-1.2.1/bin
查看当前hive中表的位置
./metatool -listFSRoot
./metatool -updateLocation 新的hdfds路径 要被修改的
./metatool -updateLocation hdfs://cluster hdfs://master
:9000
执行命令完成后hive的select语句即可执行;
注意
1、此处的cluster为hadoop配置文件hdfs-site.xml中
<!-- //以下为HDFS HA的配置// -->
<!-- 指定hdfs的nameservices名称为cluster -->
<property>
<name>dfs.nameservices</name>
<value>cluster</value>
</property>
2、修改成功后虽然可以查寻到原来的数据库及表信息,但是表中已无数据,可以重新加载数据。
解决方法2:
修改hive元数据所在的数据库(mysql)中的DBS表和SDS表。
DBS表原有数据:
SDS表原有数据:
通过以下命令修改(通常不建议修改hive的元数据信息)
update 表名 set 字段名=REPLACE (字段名,’原来的值’,’要修改的值’)
update SDS set LOCATION=REPLACE (LOCATION,'master:9000','cluster');
update DBS set DB_LOCATION_URI=REPLACE (DB_LOCATION_URI,'master:9000','cluster');
修改后的DBS表数据:
修改后的SDS表数据:
两种方法实际上都是修改hive元数据所在的数据库(mysql)中的DBS表和SDS表中的字段数据。