Hadoop2.7.2之Hive-2.1.1的Hiveserver2服务和beeline远程调试

最新推荐文章于 2024-04-12 16:19:18 发布
最新推荐文章于 2024-04-12 16:19:18 发布
阅读量2.2k 收藏 1
点赞数
分类专栏： Hive

1.开启metastore 和 hiveserver2服务

[root@sht-sgmhadoopnn-01 bin]# hive --service metastore &
[1] 31092
[root@hadoop-01 bin]# hive --service hiveserver2 &
[root@hadoop-01 bin]# ps -ef|grep hive
root     31092 21892 11 21:57 pts/0    00:00:15 /usr/java/jdk1.7.0_67-cloudera/bin/java -Xmx256m -Djava.library.path=/hadoop/hadoop-2.7.2/lib -Djava.net.preferIPv4Stack=true -Dhadoop.log.dir=/hadoop/hadoop-2.7.2/logs -Dhadoop.log.file=hadoop.log -Dhadoop.home.dir=/hadoop/hadoop-2.7.2 -Dhadoop.id.str=root -Dhadoop.root.logger=INFO,console -Dhadoop.policy.file=hadoop-policy.xml -Djava.net.preferIPv4Stack=true -Xmx512m -Dlog4j.configurationFile=hive-log4j2.properties -Dhadoop.security.logger=INFO,NullAppender org.apache.hadoop.util.RunJar /hadoop/hive-remote-server/lib/hive-service-2.0.0.jar org.apache.hadoop.hive.metastore.HiveMetaStore
root     31206 21892 15 21:57 pts/0    00:00:21 /usr/java/jdk1.7.0_67-cloudera/bin/java -Xmx256m -Djava.library.path=/hadoop/hadoop-2.7.2/lib -Djava.net.preferIPv4Stack=true -Dhadoop.log.dir=/hadoop/hadoop-2.7.2/logs -Dhadoop.log.file=hadoop.log -Dhadoop.home.dir=/hadoop/hadoop-2.7.2 -Dhadoop.id.str=root -Dhadoop.root.logger=INFO,console -Dhadoop.policy.file=hadoop-policy.xml -Djava.net.preferIPv4Stack=true -Xmx512m -Dlog4j.configurationFile=hive-log4j2.properties -Dhadoop.security.logger=INFO,NullAppender org.apache.hadoop.util.RunJar /hadoop/hive-remote-server/lib/hive-service-2.0.0.jar org.apache.hive.service.server.HiveServer2
[root@hadoop-01 bin]# netstat -nlp |grep 31206
tcp        0      0 0.0.0.0:10000               0.0.0.0:*                   LISTEN      31206/java          
tcp        0      0 0.0.0.0:10002               0.0.0.0:*                   LISTEN      31206/java      

####打开web http://192.168.33.01:10002/hiveserver2.jsp
端口10000 （hive.server2.thrift.port） 和10002

2.beeline调试,远程连接到HiveServer2    http://blog.csdn.net/huanggang028/article/details/44591663
Beeline工作模式有两种，即本地嵌入模式和远程模式。嵌入模式情况下，它返回一个嵌入式的Hive（类似于Hive CLI）。
而远程模式则是通过Thrift协议与某个单独的HiveServer2进程进行连接通信。

[root@hadoop-01 bin]# ./beeline
Beeline version 2.0.0 by Apache Hive
beeline> !connect jdbc:hive2://192.168.33.01:10000 root root 
Connecting to jdbc:hive2://192.168.33.01:10000
Error: Failed to open new session: java.lang.RuntimeException: org.apache.hadoop.ipc.RemoteException(org.apache.hadoop.security.authorize.AuthorizationException): User: root is not allowed to impersonate root (state=,code=0)
 
###错误 User: root is not allowed to impersonate root 

3.停止集群和hive,修改配置,同步配置,重启集群和hive
[root@hadoop-01 sbin]# ./stop-all.sh
[root@hadoop-01 sbin]# ps -ef|grep hive
root     31092 21892 11 21:57 pts/0    00:00:15 /usr/java/jdk1.7.0_67-cloudera/bin/java -Xmx256m -Djava.library.path=/hadoop/hadoop-2.7.2/lib -Djava.net.preferIPv4Stack=true -Dhadoop.log.dir=/hadoop/hadoop-2.7.2/logs -Dhadoop.log.file=hadoop.log -Dhadoop.home.dir=/hadoop/hadoop-2.7.2 -Dhadoop.id.str=root -Dhadoop.root.logger=INFO,console -Dhadoop.policy.file=hadoop-policy.xml -Djava.net.preferIPv4Stack=true -Xmx512m -Dlog4j.configurationFile=hive-log4j2.properties -Dhadoop.security.logger=INFO,NullAppender org.apache.hadoop.util.RunJar /hadoop/hive-remote-server/lib/hive-service-2.0.0.jar org.apache.hadoop.hive.metastore.HiveMetaStore
root     31206 21892 15 21:57 pts/0    00:00:21 /usr/java/jdk1.7.0_67-cloudera/bin/java -Xmx256m -Djava.library.path=/hadoop/hadoop-2.7.2/lib -Djava.net.preferIPv4Stack=true -Dhadoop.log.dir=/hadoop/hadoop-2.7.2/logs -Dhadoop.log.file=hadoop.log -Dhadoop.home.dir=/hadoop/hadoop-2.7.2 -Dhadoop.id.str=root -Dhadoop.root.logger=INFO,console -Dhadoop.policy.file=hadoop-policy.xml -Djava.net.preferIPv4Stack=true -Xmx512m -Dlog4j.configurationFile=hive-log4j2.properties -Dhadoop.security.logger=INFO,NullAppender org.apache.hadoop.util.RunJar /hadoop/hive-remote-server/lib/hive-service-2.0.0.jar org.apache.hive.service.server.HiveServer2
[root@hadoop-01 sbin]# kill -9 31092
[root@hadoop-01 sbin]# kill -9 31206

[root@hadoop-01 sbin]# cd ../ect/hadoop/

点击(此处)折叠或打开

  1. [root@hadoop-01 hadoop]# vi core-site.xml 

  3.      #用户“root”可以代理所有主机上的所有用户
  4.         <property>
  5.            <name>hadoop.proxyuser.root.hosts</name>
  6.            <value>*</value>
  7.         </property>
  8.         <property>
  9.             <name>hadoop.proxyuser.root.groups</name> 
  10.             <value>*</value>
  11.        </property>
###一定要同步配置
[root@hadoop-01 hadoop]#  scp core-site.xml root@hadoop-02:/hadoop/hadoop-2.7.2/etc/hadoop/
core-site.xml                                                                                                             100% 1779     1.7KB/s   00:00    
[root@hadoop-01 hadoop]#  scp core-site.xml root@hadoop-03:/hadoop/hadoop-2.7.2/etc/hadoop/
core-site.xml                                                                                                             100% 1779     1.7KB/s   00:00    
[root@hadoop-01 hadoop]#  scp core-site.xml root@hadoop-04:/hadoop/hadoop-2.7.2/etc/hadoop/
core-site.xml                                                                                                             100% 1779     1.7KB/s   00:00    
[root@hadoop-01 hadoop]#  scp core-site.xml root@hadoop-05:/hadoop/hadoop-2.7.2/etc/hadoop/
core-site.xml                                                                                                             100% 1779     1.7KB/s   00:00    
[root@hadoop-01 hadoop]# cd ../../sbin
[root@hadoop-01 sbin]# ./start-all.sh

[root@hadoop-01 sbin]# cd /hadoop/hive-remote-server/bin
[root@hadoop-01 bin]# hive --service metastore &
[root@hadoop-01 bin]# hive --service hiveserver2 &

4.beeline再次调试
[root@hadoop-01 bin]# ./beeline
Beeline version 2.0.0 by Apache Hive
beeline> !connect jdbc:hive2://192.168.33.01:10000 root root 

Connecting to jdbc:hive2://192.168.33.01:10000
SLF4J: Class path contains multiple SLF4J bindings.
SLF4J: Found binding in [jar:file:/hadoop/hive-remote-server/lib/hive-jdbc-2.0.0-standalone.jar!/org/slf4j/impl/StaticLoggerBinder.class]
SLF4J: Found binding in [jar:file:/hadoop/hadoop-2.7.2/share/hadoop/common/lib/slf4j-log4j12-1.7.10.jar!/org/slf4j/impl/StaticLoggerBinder.class]
SLF4J: See http://www.slf4j.org/codes.html#multiple_bindings for an explanation.
SLF4J: Actual binding is of type [org.apache.logging.slf4j.Log4jLoggerFactory]
Connected to: Apache Hive (version 2.0.0)
Driver: Hive JDBC (version 2.0.0)
16/06/08 22:32:56 [main]: WARN jdbc.HiveConnection: Request to set autoCommit to false; Hive does not support autoCommit=false.
Transaction isolation: TRANSACTION_REPEATABLE_READ
0: jdbc:hive2://192.168.33.01:10000> show tables;
INFO  : Compiling command(queryId=root_20160608223313_3c8f0f43-c860-4127-8962-109e751ea306): show tables
INFO  : Semantic Analysis Completed
INFO  : Returning Hive schema: Schema(fieldSchemas:[FieldSchema(name:tab_name, type:string, comment:from deserializer)], properties:null)
INFO  : Completed compiling command(queryId=root_20160608223313_3c8f0f43-c860-4127-8962-109e751ea306); Time taken: 1.579 seconds
INFO  : Concurrency mode is disabled, not creating a lock manager
INFO  : Executing command(queryId=root_20160608223313_3c8f0f43-c860-4127-8962-109e751ea306):  show tables
 INFO  : Starting task [Stage-0:DDL] in serial mode
INFO  : Completed executing command(queryId=root_20160608223313_3c8f0f43-c860-4127-8962-109e751ea306); Time taken: 0.075 seconds
INFO  : OK
+--------------+--+
|   tab_name   |
+--------------+--+
| studentinfo  |
+--------------+--+
1 row selected (2.06 seconds)
0: jdbc:hive2://192.168.33.01:10000> select * from studentinfo;
INFO  : Compiling command(queryId=root_20160608223330_c11ea86f-4c91-49bc-924e-ce6f70c0884e): select * from studentinfo
INFO  : Semantic Analysis Completed
INFO  : Returning Hive schema: Schema(fieldSchemas:[FieldSchema(name:studentinfo.id, type:int, comment:null), FieldSchema(name:studentinfo.name, type:string, comment:null), FieldSchema(name:studentinfo.age, type:int, comment:null), FieldSchema(name:studentinfo.tel, type:string, comment:null)], properties:null)
INFO  : Completed compiling command(queryId=root_20160608223330_c11ea86f-4c91-49bc-924e-ce6f70c0884e); Time taken: 2.276 seconds
INFO  : Concurrency mode is disabled, not creating a lock manager
INFO  : Executing command(queryId=root_20160608223330_c11ea86f-4c91-49bc-924e-ce6f70c0884e): select * from studentinfo
INFO  : Completed executing command(queryId=root_20160608223330_c11ea86f-4c91-49bc-924e-ce6f70c0884e); Time taken: 0.001 seconds
INFO  : OK
+-----------------+-------------------+------------------+------------------+--+
| studentinfo.id  | studentinfo.name  | studentinfo.age  | studentinfo.tel  |
+-----------------+-------------------+------------------+------------------+--+
| 1               | a                 | 26               | 113              |
| 2               | b                 | 11               | 222              |
+-----------------+-------------------+------------------+------------------+--+
2 rows selected (2.741 seconds)
0: jdbc:hive2://192.168.33.01:10000> 
wdier
关注
专栏目录
Mac系统搭建Hive源码远程调试环境
strongyoung的专栏
03-03 930
环境准备 JDK 这个一定需要，不管是Hadoop，还是Hive的运行，都依赖这个。 Hadoop Hadoop的安装比较简单，从官网下载一个包，解压，然后配置几个核心的xml就可以了。 Hive源码 从官网下载一个Hive的源码包，我下载的是3.1.1 Intellij IDEA 建议下载community版 Maven 编译Hive源码时需要 启动Hadoop 切换到Hadoop的安装目录...
Hive-2.1.1-CDH-3.6.1 相关JDBC连接驱动 Jar 包集合
04-20
01、hadoop-common-3.0.0-cdh6.3.1.jar 02、hive-exec-2.1.1-cdh6.3.1.jar 03、hive-jdbc-2.1.1-cdh6.3.1.jar 04、hive-jdbc-2.1.1-cdh6.3.1-standalone.jar 05、hive-metastore-2.1.1-cdh6.3.1.jar 06、hive-...
Hadoop2.7实战v1.0之Hive-2.0.0的Hiveserver2服务和beeline远程调试
crazy_stone0002的博客
06-19 165
0.环境 Hadoop2.7实战v1.0之Hive-2.0.0+MySQL远程模式安装: http://blog.itpub.net/30089851/viewspace-2082805/ 机器 hadoop-01:192....
hive server 2 服务端及beeline client客户端 远程debug方式
merrily01的博客
04-24 2451
hive server 2 服务端代码远程debug调试方式： 1. idea 添加debug 远程调试，如下： 2.将idea 远程debug参数添加到vi hadoop_conf/hadoop-env.sh 中HADOOP_CLIENT_OPTS 配置项中，如： export HADOOP_CLIENT_OPTS="-Xmx5g -agentlib:jdwp=tran...
hive远程debug
huguoping830623的专栏
08-19 1100
1、编译hive的源代码（mvn eclipse:eclipse）,把编译后的工程导入eclipse 2、启动hive，命令hive --debug 。 [root@hadoop2 ~]# hive --debug Listening for transport dt_socket at address: 8000 3、在eclipse里面，打开Debug Configurations
ieda 远程调试hive_hive server 2 服务端及beeline client客户端 远程debug方式
weixin_39640520的博客
12-22 365
hive server 2 服务端代码远程debug调试方式：1. idea 添加debug 远程调试，如下： 2.将idea 远程debug参数添加到vi hadoop_conf/hadoop-env.sh 中HADOOP_CLIENT_OPTS 配置项中，如：export HADOOP_CLIENT_OPTS="-Xmx5g -agentlib:jdwp=transport=dt_so...
apache-hive-2.1.1-bin.tar.gz下的bin文件夹，包含hive.cmd
02-11
Hive构建在Hadoop之上，它提供了一个SQL-like的查询语言——HiveQL，使得非Java背景的开发人员也能方便地进行大数据操作。在你提到的"apache-hive-2.1.1-bin.tar.gz"压缩包中，`bin`文件夹是Hive的可执行文件目录，...
hive-jdbc-2.1.1-cdh6.3.1-standalone.jar
04-20
Hive 2.1.1 的 JDBC 连接驱动，CDH-6.3.1 版本。
hive-exec-2.1.1.jar
03-14
Apache Hive 是一个构建在 Hadoop 之上的数据仓库基础设施，它允许用户以 SQL（结构化查询语言）的形式查询和管理大型数据集。Hive 提供了一种 SQL 接口来访问数据，这些数据通常存储在 Hadoop 的分布式文件系统...
apache-hive-2.1.1-bin.tar.gz
04-24
Apache Hive 是一个强大的数据仓库工具，它建立在 Apache Hadoop 生态系统之上，主要用于处理和管理大规模的数据存储。Hive 提供了一种SQL-like（HQL，Hive SQL）的查询语言，使得用户无需深入了解 MapReduce 或其他...
Hive2.1.1+hadoop2.7.3
04-20
Hive2.1.1+hadoop2.7.3 Hivedrive for kettle lib
ieda 远程调试hive_通过idea远程调试
weixin_39635657的博客
12-22 184
集群：centos7 + HA集群开发环境：win7 IDEA问题：在win7上开发，任务在hadoop集群上运行，当远程程序执行出错，需要排错，总结主要有两种方式：1、查看日志可通过webui查看各节点日志自己写一个工具库，通过nc把日志发送同一个终端查看2、设置java的运行方式，通过idea进行远程调试过程1、生成mr作业jar包，导出并传到集群，如家目录这些包是内置的，不需要导出到jar文...
Hive 远程Debug
gjhunique的专栏
06-28 2495
hive的远程debug可以说是相当的简单，方便。但是如果你的工作环境有网络上的限制，可能就需要变通一下。一.Attach 模式（适用与本地能够通远程服务器）1.配置idea如图：host：为hive启动服务ip， port：hive默认是8000，可以启动hive的时候进行设置。2.启动hive直接执行命令：hive --debug (当然有些参数是直接可以设置的，比如设置端口 hive --d...
【hive】远程remote debug hive的方法，用于hive监听器/钩子编写
最新发布
lisacumt的专栏
04-12 560
远程remote debug hive的方法，用于hive监听器/钩子编写
ieda 远程调试hive_hive客户端远程debug
weixin_39540315的博客
12-22 134
idea 选中Edit Congigurations 添加remote如下图图中debug方式为listen (本地不通线上，线上通本地)远程 hive 客户端修改{HIVE_HOME}/bin/ext/debug.sh将HIVE_MAIN_CLIENT_DEBUG_OPTS、 HIVE_CHILD_CLIENT_DEBUG_OPTS修改为如图之后 idea点击debug按钮等待远程连接,远程hi...
Hiveserver2远程Debug
weixin_42229056的博客
12-27 477
cao, 远程debug了一天，中间各种问题，网络问题，机器问题，终于成功了，艹，fuck
hive,spark的远程调试设置
weixin_30475039的博客
10-03 170
spark的远程调试 spark-env.sh文件里面，加上下面配置即可： if [ "$DEBUG_MODE" = "true" ]; then export SPARK_JAVA_OPTS+="-Xdebug -Xrunjdwp:transport=dt_socket,server=y,suspend=y,address=8000" fi hive的远...
Hive远程debug步骤
cyh的博客
03-10 1490
1.官网下载hive启动包 我用的包版本为apache-hive-2.3.8-bin.tar.gz，下载完后解压到linux指定目录。 我的路径为 /app/hive/apache-hive-2.3.8-bin 2.官网下载hive源码包 对应的版本为apache-hive-2.3.8-src.tar.gz，下载完后解压到window指定目录， ...
hive远程调试
iteye_6434的博客
01-29 349
Hive 0.8 以上版本开始支持远程调试(注1)。 1. 以debug模式启动Cli，${HIVE_HOME}/bin/hive --debug。进程会监听在8000端口等待调试连接。如果想更改监听端口，可以修改配置文件:${HIVE_HOME}bin/ext/debug.sh 。 2. 在Eclipse中, 选择Debug configurations->Remote Java A...
CDH3.6.1环境下Hive-2.1.1 JDBC驱动库及Jar包集合
2. **hadoop-common-3.0.0-cdh6.3.1.jar**：这个Jar包包含了Hadoop的核心组件，其中包括配置文件、网络库以及HDFS的客户端库。Hadoop作为一个分布式存储系统，提供了高可靠性、高扩展性、高效性和高容错性的特点，它...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值