Hadoop 与 Hive 兼容性问题(一)部署Hadoop与Hive

部署 Hadoop 和 Hive

组件下载地址:https://archive.apache.org/dist/

版本选择

框架HiveHadoop
版本3.1.33.1.3

Hadoop 部署

集群规划

主机hadoop102hadoop103hadoop104
服务NameNode
DataNodeDataNodeDataNode
ResourceManager
NodeManagerNodeManagerNodeManager

集群安装:https://blog.csdn.net/weixin_45417821/article/details/115268740 只看Hadoop集群安装部分即可

Hive 部署

集群规划

主机hadoop102
服务Hivesever2
Metastore

Hive 安装

1)把 apache-hive-3.1.3-bin.tar.gz上传到 linux 的/opt/software 目录下

2)解压 apache-hive-3.1.3-bin.tar.gz 到/opt/module目录下面

[root@hadoop102 hive]# tar -zxvf apache-hive-3.1.3-bin.tar.gz -C /opt/module/

3)修改 apache-hive-3.1.2-bin.tar.gz 的名称为 hive

[root@hadoop102 module]# mv apache-hive-3.1.3-bin/ hive

4)修改/etc/profile,添加环境变量

[root@hadoop102 hive]# vim /etc/profile.d/my_env.sh 

添加内容
#HIVE_HOME
export HIVE_HOME=/opt/module/hive
export PATH=$PATH:$HIVE_HOME/bin

5)解决日志 Jar 包冲突,进入/opt/module/hive/lib 目录(有冲突再做)

[root@hadoop102 lib]$ mv log4j-slf4j-impl-2.10.0.jar log4j-slf4j-impl-2.10.0.jar.b

Hive 元数据配置到 MySQL

拷贝驱动

将 MySQL 的 JDBC 驱动拷贝到 Hive 的 lib 目录下

[root@hadoop102 lib]$ cp /opt/software/mysql/mysql-connector-java-5.1.27-bin.jar /opt/module/hive/lib/

配置 Metastore 到 MySQL

在$HIVE_HOME/conf 目录下新建 hive-site.xml 文件

[root@hadoop102 conf]$ vim hive-site.xml
<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
 <property>
 	<name>javax.jdo.option.ConnectionURL</name>
	<value>jdbc:mysql://hadoop102:3306/metastore?useSSL=false</value>
 </property>
 <property>
 	<name>javax.jdo.option.ConnectionDriverName</name>
 	<value>com.mysql.jdbc.Driver</value>
 </property>
 <property>
 	<name>javax.jdo.option.ConnectionUserName</name>
 	<value>root</value>
 </property>
 <property>
	 <name>javax.jdo.option.ConnectionPassword</name>
 	 <value>000000</value>
 </property>
 <property>
 	<name>hive.metastore.warehouse.dir</name>
 	<value>/user/hive/warehouse</value>
 </property>
 <property>
 	<name>hive.metastore.schema.verification</name>
 	<value>false</value>
 </property>
 <property>
 	<name>hive.server2.thrift.port</name>
 	<value>10000</value>
 </property>
 <property>
 	<name>hive.server2.thrift.bind.host</name>
 	<value>hadoop102</value>
 </property>
 <property>
	<name>hive.metastore.event.db.notification.api.auth</name>
 	<value>false</value>
 </property>
 
 <property>
 	<name>hive.cli.print.header</name>
 	<value>true</value>
 </property>
 <property>
 	<name>hive.cli.print.current.db</name>
 	<value>true</value>
 </property>

</configuration>

启动 Hive

初始化元数据库

1)登陆MySQL

[root@hadoop102 conf]$ mysql -uroot -p000000

2)新建 Hive 元数据库

mysql> create database metastore;
mysql> quit;

3)初始化 Hive 元数据库

[root@hadoop102 conf]$ schematool -initSchema -dbType mysql -verbose

会报如下异常:暂且搁置

Exception in thread "main" java.lang.NoSuchMethodError: com.google.common.base.Preconditions.checkArgument(ZLjava/lang/String;Ljava/lang/Object;)V

测试

测试 Hadoop

1)启动 Hadoop

[root@hadoop102 ~]$ start-dfs.sh
[root@hadoop103 ~]$ start-yarn.sh

2)运行 Hadoop 自带的测试任务

[root@hadoop102 ~]$ hadoop jar /opt/module/hadoop-3.1.3/share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.3.jar pi 1 1

测试 Hive

1)启动 Hive CLI 客户端

[root@hadoop102 ~]$ hive

此时控制台会出现如下报错信息:

java.lang.NoSuchMethodError: 
com.google.common.base.Preconditions.checkArgument(ZLjava/lang/St
ring;Ljava/lang/Object;)V
  • 1
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: 编译Spark3.x需要先安装Java、Scala和Maven等工具,然后下载Spark源代码并进行编译。在编译过程中,需要注意Spark3.x与HadoopHive版本兼容的问题。 具体来说,Spark3.x与Hadoop兼容性要求如下: - Spark3.0.x需要Hadoop 2.7及以上版本; - Spark3.1.x需要Hadoop 3.2及以上版本。 而Spark3.x与Hive兼容性要求如下: - Spark3.0.x需要Hive 2.3及以上版本; - Spark3.1.x需要Hive 3.1及以上版本。 如果在编译或运行Spark3.x时遇到版本兼容性问题,可以考虑升级或降级相应的组件版本,或者使用Spark提供的预编译版本。同时,也可以在Spark的配置文件中设置相应的参数来解决兼容性问题。 ### 回答2: Spark是一种快速、通用的大数据处理框架,常用于分散式计算、数据处理和分析。Spark的新版本Spark 3.x具有多种新特性和改进,使其在应对大量数据问题方面更具有竞争力。编译Spark 3.x并使其与HadoopHive版本兼容需要遵循几个步骤。 编译Spark 3.x 编译Spark之前,需要进行以下操作: 1.安装Java 8并设置环境变量 官方推荐Java 8因为Spark3.x不支持Java 9及以上的版本。 2.安装Scala 和 sbt 官方支持Scala 2.12.x版本,并建议使用sbt进行编译。 3.下载Spark 3.x源码 下载后进行解压缩,然后进入Spark源码目录。 完成上述操作后,可以开始编译Spark 3.x: 1.使用命令sbt compile编译源码 2.使用命令sbt package打包成jar文件 3.使用命令sbt assembly打包成带依赖的jar文件 完成上述操作后,就可以将Spark 3.x与HadoopHive版本兼容。 Spark 3.x与HadoopHive版本兼容问题的解决 1.与Hadoop版本兼容 Spark使用Hadoop作为其分布式存储和计算基础。因此,它需要与Hadoop版本兼容,以确保能够读写Hadoop支持的文件格式。Spark 3.x推荐使用Hadoop 3.2.x版本,因为它提供了更好的性能和兼容性。 2.与Hive版本兼容 Hive是一种在Hadoop上运行的数据仓库软件,它提供了SQL接口来查询和分析数据。Spark 3.x与Hive版本兼容性需要视Hive版本而定。Spark 3.x建议使用Hive 3.x版本,以确保兼容性。 在编译Spark时,可以通过设置HadoopHive版本来确保Spark与它们兼容。在源代码目录中的build/sbt,有一个build.properties文件,可以在其中设置HadoopHive版本号。例如,设置Hadoop版本为3.2.1和Hive版本3.1.2: hadoop.version 3.2.1 hive.version 3.1.2 总之,当编译Spark 3.x时需要设置正确的环境和版本信息,并通过设置版本来保证Spark与HadoopHive兼容。这样就可以使用Spark来进行大规模数据处理和分析,以提取出数据中的价值,为企业提供实时分析和决策支持。 ### 回答3: Spark是一个快速而通用的集群计算系统。它可以处理多种数据,并且是可扩展的。Spark有几个版本,包括Spark 3.x、Spark 2.x和Spark 1.x。Spark 3.x是最新的版本,它提供了许多新的功能和增强特性。本文将讨论如何编译Spark 3.x以及Spark 3.x与HadoopHive版本兼容问题的解决。 编译Spark3.x 编译Spark3.x需要一些前期准备工作。首先,需要安装Java开发工具包(JDK)。然后,需要安装Apache Maven和Git。在完成这些准备工作后,可以按照以下步骤编译Spark3.x: 1.从Spark的官方网站上下载Spark源代码。 2.打开终端并切换到Spark源代码目录。 3.运行以下命令: mvn -Psparkr -Pmesos -Pmesos-extras -Pyarn -Phive -Phive-thriftserver -DskipTests clean package 该命令将编译Spark3.x并生成一个可执行文件。 Spark 3.x与Hadoop版本兼容问题的解决 Spark3.x需要一个Hadoop版,以便读写Hadoop分布式文件系统(HDFS)和执行MapReduce任务。以下是Spark3.x与Hadoop版本兼容的问题及其解决方案: 1. Hadoop2.7.x - Spark3.x需要Hadoop2.7.x或更高版本。如果使用的是Hadoop2.6.x,则需要升级到Hadoop2.7.x。 2. Hadoop3.x - Spark3.x支持Hadoop3.x版本,但需要指定Hadoop版本。 在启动Spark应用程序时,可以使用以下命令指定要使用的Hadoop版本: ./bin/spark-shell --conf spark.hadoop.fs.defaultFS=hdfs://namenode:8020 其中,"namenode"是Hadoop的主节点名称,"8020"是Hadoop的主节点端口号。 Spark 3.x与Hive版本兼容问题的解决 Spark3.x还需要一个Hive版本,以便在Spark SQL中查询Hive的数据表。以下是Spark3.x与Hive版本兼容的问题及其解决方案: 1. Hive 1.x和2.x - Spark3.x支持Hive 1.x和2.x版本。在启动Spark应用程序时,可以使用以下命令指定要使用的Hive版本: ./bin/spark-shell --conf spark.sql.hive.metastore.version=2.0.0 其中,"2.0.0"是Hive版本号。 2. Hive 3.x - Spark3.x还不支持Hive 3.x版本。如果需要使用Hive 3.x,可以使用Spark2.x版本。在启动Spark应用程序时,可以使用以下命令指定要使用的Spark版本: ./bin/spark-submit --class com.example.myApp --master yarn --deploy-mode cluster --conf spark.yarn.appMasterEnv.SPARK_HOME=/path/to/spark2x /path/to/myApp.jar 其中,"/path/to/spark2x"是Spark2.x的安装路径。 总之,为了使用Spark3.x,需要确保它与HadoopHive版本兼容。如果需要更改版本或指定版本,请使用相应的命令来启动Spark应用程序。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值