[解决]Spark运行中java.net.UnknownHostException: nameservice1的异常

最新推荐文章于 2021-10-10 16:26:02 发布

大数据部

最新推荐文章于 2021-10-10 16:26:02 发布

阅读量1.1w

点赞数 2

分类专栏：批量:Hive/Spark/Hbas 文章标签： hdfs spark namenode

本文链接：https://blog.csdn.net/bdchome/article/details/48292453

版权

本文介绍了如何处理在执行Spark程序时遇到的`java.net.UnknownHostException: nameservice1`异常。该异常通常由于HDFS HA配置中的nameservice1未被正确识别。解决方案是检查CDH5.4中的`hdfs-site.xml`配置文件，特别是通过Zookeeper进行的 Namenode 选举设置。将`hdfs-site.xml`文件复制到$SPARK_HOME/conf目录，可以确保Spark能够正确访问HDFS路径。

摘要由CSDN通过智能技术生成

[Author]: kwu

解决Spark运行中java.net.UnknownHostException: nameservice1的异常，nameservice1是配置hdfs中用到的HA，在执行spark程序时出现 java.net.UnknownHostException: nameservice1异常，找到正确的路径。

分析在CDH5.4中配置文件/etc/hadoop/conf/hdfs-site.xml，此文件记录了hdfs的路径与主节点的配置

hdfs-site.xml 主要配置如下：

<property>
    <name>dfs.nameservices</name>
    <value>nameservice1</value>
  </property>
  <property>
    <name>dfs.client.failover.proxy.provider.nameservice1</name>
    <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
  </property>
  <property>
    <name>dfs.ha.automatic-failover.enabled.nameservice1</name>
    <value>true</value>
  </property>
  <property>
    <name>ha.zookeeper.quorum