大数据:综合集群搭建(2.0+)

方案规划   centOS6.10 + win10

  • 方案

主机名

ip

软件

node1

192.168.1.101

jdk,zookeeper,hadoop,spark,scala,hbase,hive,kafka,canal

node2

192.168.1.102

jdk,zookeeper,hadoop,spark,scala,hbase,hive,kafka,canal

node3

192.168.1.103

jdk,zookeeper,hadoop,spark,scala,hbase,hive,kafka,canal

物理机

192.168.1.111

jdk,secureCRT&FX,IDEA

  • 版本
集群软件版本列表
jdk-8u221apache-hive-2.3.7
hadoop-2.7.3hbase-1.4.13
zookeeper-3.4.5sqoop-1.4.7
spark-2.3.0kafka_2.12-2.2.2
scala-2.11.12canal.deployer-1.1.1
apache-hive-1.2.2

环境准备:虚拟环境准备

集群搭建       

安装JDK

  •        解压        tar -zxvf jdk-8u231-linux-x64.tar.gz -C /usr//local/java/
    scp -r java/jdk1.8.0_231/ 192.168.1.102:/usr/java/        
    scp -r java/jdk1.8.0_231/ 192.168.1.103:/usr/java/
  •       修改环境变量     vim /etc/profile
    export JAVA_HOME=/usr/local/java/jdk1.8.0_231
    export PATH=$PATH:$JAVA_HOME/bin
    export HADOOP_HOME=/opt/hadoop/hadoop-2.7.2
    export PATH=$PATH:$HADOOP_HOME/bin
  •       刷新环境变量     source /etc/profile

安装Hadoop :  Hadoop:集群搭建(2.0+) 

安装HBase :    HBase 介绍 + 集群搭建

安装sqoop:     Sqoop 介绍 + 配置使用

安装saprk:后续补充

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值