一个hive客户端登录问题
20191226
公司开始部署Spark版本的程序,之前使用的是MapReduce框架。我主要工作是配合部署工程师调试程序。
首先是部署Spark版程序的运行环境。我把spark streaming的包放在服务器上并添加bin目录到环境变量,然后hive相关的任务脚本都执行失败了。
这些脚本是把SQL嵌入到shell脚本的,cron调度运行了近一年。忽然执行失败,要么集群出现问题,要么就是任务失败前的变更导致。
使用其它主机提交相同任务可以运行,证明hadoop集群没有问题。那么就是最近的变更有问题。后来发现出问题的主机连hive客户端都不能登录。以下是登录时的报错:
Connecting to jdbc:hive2://10.236.160.74:2181,10.236.160.154:2181,10.236.160.54:2181,10.236.160.61:2181,10.216.160.216:2181,10.236.160.37:2181,10.236.160.180:2181/icaasiainfo;principal=hive/hivecluster@BCHKDC;serviceDiscoveryMode=zookeeper;zooKeeperNamespace=hiveserver2?mapreduce.job.queuename=root.bdoc.renter_1.renter_49.dev_73
19/12/24 08:26:02 INFO Utils: Supplied authorities: 10.236.160.74:2181,10.236.160.154:2181,10.236.160.54:2181,10.236.160.61:2181,10.216.160.216:2181,10.236.160.37:2181,10.236.160.180:2181
19/12/24 08:26:02 INFO CuratorFrameworkImpl: Starting
19/12/24 08:26:02 INFO ZooKeeper: Client environment:zookeeper.version=3.4.6-bc1.3.6--1, built on 09/13/2017 15:18 GMT
19/12/24 08:26:02 INFO ZooKeeper: Client environment:host.name=host-10-236-157-70.openstacklocal
19/12/24 08:26:02 INFO ZooKeeper: Client environment:java.version=1.7.0_67
19/12/24 08:26:02 INFO ZooKeeper: Client environment:java.vendor=Oracle Corporation
19/12/24 08:26:02 INFO ZooKeeper: Client environment:java.home=/usr/jdk64/jdk1.7.0_67/jre
19/12/24 08:26:02 INFO ZooKeepe