hadoop+hive+flink+hbase交互的版本兼容性

与Hive兼容的Hadoop版本[3]Flink支持的Hive[1]
1.x.y, 2.x.y
  • 1.0.0
  • 1.0.1
1.x.y, 2.x.y
  • 1.1.0
  • 1.1.1
1.x.y, 2.x.y
  • 1.2.0
  • 1.2.1
  • 1.2.2
 2.x.y
  • 2.0.0
  • 2.0.1
2.x.y
  • 2.1.0
  • 2.1.1
2.x.y
  • 2.2.0
2.x.y
  • 2.3.0
  • 2.3.1
  • 2.3.2
  • 2.3.3
  • 2.3.4
  • 2.3.5
  • 2.3.6
3.x.y
  • 3.1.0
  • 3.1.1
  • 3.1.2

 

Hadoop與Hbase兼容性([5]中搜索Hadoop version support matrix)

hadoop版本hbase
Hadoop-2.7.1+HBase-1.4.x
Hadoop-2.8.5+

HBase-1.6.x

HBase-2.2.x

Hadoop-2.9.2+

HBase-1.6.x

HBase-2.2.x

Hadoop-2.10.x

HBase-1.6.x

HBase-1.7.x

HBase-2.3.x

Hadoop-3.1.1+

HBase-2.2.x

HBase-2.3.x

Hadoop-3.2.x

HBase-2.2.x

HBase-2.3.x

 

其他版本都和hadoop不兼容,不要去下載。

hadoop和hbase肯定是屬於同一個集羣的

 

Flink版本至少需要1.9或者以上[2],否則是不可能進行各種實驗操作的

因爲從1.9開始flink官方才開始出現beta版本

根据[6][7]可知,Flink1.12对hbase当前最高支持版本是2.2.x

补充:

关于Hbase和hadoop,即使参考了官方兼容列表,也会出现兼容性的问题,

此时需要参考[8]解决(尽量采用自己在gitee上编译的hbase版本)

 

Reference:

[1]Hive

[2]Hive Integration Beta-1.9

[3]Hive-Downloads

[4]Hadoop、Hbase、Hive版本兼容性

[5]Apache HBase ™ Reference Guide

[6]HBase SQL Connector

[7]https://repo1.maven.org/maven2/org/apache/flink/

[8]The procedure WAL relies on the ability to hsync for proper operation during component failures

Hadoop是一个开源的分布式计算框架,可用于处理大数据集并提供高可靠性,高可用性和高性能。要进行详细的安装部署,需要运行以下步骤: 1. 安装Java:Hadoop基于Java编写,因此需要安装适当的Java版本。 2. 安装Hadoop:以二进制文件的形式下载Hadoop,并将其解压缩到目标位置。编辑Hadoop配置文件,并设置必要的参数,例如本地文件系统和Hadoop所依赖的其他组件。 3. 部署HDFS:使用bin/hdfs script启动HDFS守护进程并格式化NameNode。配置HDFS,并在数据节点上创建数据目录。 4. 部署YARN:使用bin/yarn script启动YARN守护进程,并在ResourceManager节点上运行MR程序的ApplicationMaster服务。重新配置YARN,并设置资源管理器和节点管理器。 5. 安装Spark:以二进制文件的形式下载Spark,并将其解压缩到目标位置。编辑Spark配置文件,并设置必要的参数,例如运行模式,内存设置和调试选项。 6. 安装Hive:以二进制文件的形式下载Hive,并按照说明进行安装。配置Hive,并设置Metastore和HiveServer2。 7. 安装HBase:以二进制文件的形式下载HBase,并按照说明进行安装。配置HBase,并设置区域服务器和HBase主服务器。 8. 安装Oozie:以二进制文件的形式下载Oozie,并按照说明进行安装。编辑Oozie配置文件,并设置必要的参数,例如数据库连接,属性和内存设置。 9. 安装Kafka:以二进制文件的形式下载Kafka,并按照说明进行安装。配置Kafka,并设置必要的参数,例如Zookeeper连接,日志存储位置和日志大小限制。 10. 安装Flume:以二进制文件的形式下载Flume,并按照说明进行安装。配置Flume,并设置必要的参数,例如Flume代理,事件类型和目标。 11. 安装Flink:以二进制文件的形式下载Flink,并按照说明进行安装。配置Flink,并设置必要的参数,例如集群模式,任务管理器,计算管道和作业提交方式。 12. 安装ES:以二进制文件的形式下载Elasticsearch,并按照说明进行安装。配置Elasticsearch,并设置必要的参数,例如节点类型,索引设置和查询配置。 13. 安装Redash:以二进制文件的形式下载Redash,并按照说明进行安装。配置Redash并设置必要的参数,例如数据库连接,权限和查询模式。 以上提到的大数据技术是开源的,所以可以在官网上找到相关二进制文件和详细的安装部署指南。也可以使用一些自动化的部署工具,如Puppet和Ansible来简化整个过程。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值