CentOS7一键搭建Hadoop完全分布式集群环境脚本

一、前情提要

1、已集成的环境

  • java1.8

  • hadoop2.7.2

  • zookeeper3.4.10

  • hive1.2.1

  • hbase1.3.1

  • Jobhistory(历史服务器)

2、必要准备

  • 一个已经设置好静态IP且通网的CentOS7 以上的OS
    (建议配置 8G+200G)

3、必须提前获取的参数!!!!

  • 获取CentOS 7 的所属网段,子网掩码,网关,网卡名称

(查看方法)

  1. 打开虚拟网络编辑器
    在这里插入图片描述

  2. 选中网卡
    在这里插入图片描述

  3. 打开 NAT设置
    在这里插入图片描述

  4. 查看网关、网段、子网掩码
    在这里插入图片描述

  5. 查看网卡名称

在终端输入以下命令

ifconfig

在这里插入图片描述

特别注意!

  • 请记录下网段、网关、网卡名称

  • 举例

  • 我的网段是 192.168.152.0

  • 我的网关是 192.168.152.2

  • 我的网卡名称是 ens33

二、 一键搭建hadoop集群脚本

1、将脚本导入CentOS7里面

  • 方法很多,在此不做演示。

2、给脚本赋予执行权限

 chmod a+x install_hadoop_Docker.sh

3、执行脚本

./install_hadoop_Docker.sh
  • 输入必要参数
  • 这里输入的参数要对应 刚才要求记录的网段、网关、网卡名称!!
    在这里插入图片描述
  • 在脚本执行过程中,还要输入3台容器的IP
    -例如
    我的网段是 192.168.152.0
    我的网关是 192.168.152.2
    我的主机IP是 192.168.152.121

那么我要给他们设置的IP地址格式必须为:

192.168.152.x
x的值可以是x∈{x|0<x<255,x≠2,121}

这里我设置的3台容器的IP分别是
192.168.152.201
192.168.152.202
192.168.152.203
在这里插入图片描述
这些参数设置完就可以坐等安装结束了!

4、脚本源码

#!/bin/bash
echo -e "\033[37;41;1m  ============ 一站式安装hadoop ============\033[0m" 
echo -e "\033[37;41;1m  =========== Author:GongChangJL  ===========\033[0m" 
echo

echo -e "\033[34;1;5m    ============ 请输入网段  ============\033[0m" 
read netSegment
echo -e "\033[34;1;5m    ============ 请输入网关  ============\033[0m" 
read gateway
echo -e "\033[34;1;5m    ========== 请输入网卡名称  ==========\033[0m" 
read netCard
echo
echo -e "\033[34;1;5m ========= 请输入hadoop1的IP  ========\033[0m" 
read IPhadoop1
echo -e "\033[34;1;5m ========= 请输入hadoop2的IP  ========\033[0m" 
read IPhadoop2
echo -e "\033[34;1;5m ========= 请输入hadoop3的IP  ========\033[0m"
read IPhadoop3
echo
echo -e "\033[37;1;42;05m    ============ START  ============\033[0m" 
echo -e "\033[34;1m  ============ 安装docker  ============\033[0m" 
yum update -y yum-utils device-mapper-persistent-data lvm2
yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
yum install -y docker-ce
systemctl start docker
docker -v
echo -e "\033[32;1m  ========== docker安装结束 ===========\033[0m"
  • 1
    点赞
  • 12
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
以下是一个简单的脚本,可以快速在 CentOS 7 上搭建 Hadoop 集群: ```bash #!/bin/bash # Hadoop Cluster Setup Script # Set hostname echo "Setting hostname..." hostnamectl set-hostname hadoop-master echo "127.0.0.1 hadoop-master" >> /etc/hosts # Install Java echo "Installing Java..." yum install -y java-1.8.0-openjdk-devel # Download Hadoop echo "Downloading Hadoop..." curl -O https://apache.org/dist/hadoop/common/hadoop-3.3.1/hadoop-3.3.1.tar.gz # Extract Hadoop echo "Extracting Hadoop..." tar -xzvf hadoop-3.3.1.tar.gz mv hadoop-3.3.1 /usr/local/hadoop rm hadoop-3.3.1.tar.gz # Configure Hadoop echo "Configuring Hadoop..." echo "export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk" >> /usr/local/hadoop/etc/hadoop/hadoop-env.sh echo "export HADOOP_HOME=/usr/local/hadoop" >> /etc/profile echo "export PATH=$PATH:/usr/local/hadoop/bin:/usr/local/hadoop/sbin" >> /etc/profile source /etc/profile # Configure Hadoop Cluster echo "Configuring Hadoop Cluster..." cp /usr/local/hadoop/etc/hadoop/mapred-site.xml.template /usr/local/hadoop/etc/hadoop/mapred-site.xml sed -i 's/localhost/hadoop-master/' /usr/local/hadoop/etc/hadoop/core-site.xml sed -i 's/localhost/hadoop-master/' /usr/local/hadoop/etc/hadoop/hdfs-site.xml sed -i 's/localhost/hadoop-master/' /usr/local/hadoop/etc/hadoop/yarn-site.xml echo "export HDFS_NAMENODE_USER=root" >> /usr/local/hadoop/etc/hadoop/hadoop-env.sh echo "export HDFS_DATANODE_USER=root" >> /usr/local/hadoop/etc/hadoop/hadoop-env.sh echo "export HDFS_SECONDARYNAMENODE_USER=root" >> /usr/local/hadoop/etc/hadoop/hadoop-env.sh echo "export YARN_RESOURCEMANAGER_USER=root" >> /usr/local/hadoop/etc/hadoop/yarn-env.sh echo "export YARN_NODEMANAGER_USER=root" >> /usr/local/hadoop/etc/hadoop/yarn-env.sh # Start Hadoop Cluster echo "Starting Hadoop Cluster..." /usr/local/hadoop/sbin/start-dfs.sh /usr/local/hadoop/sbin/start-yarn.sh # Configure Hadoop Cluster on other nodes echo "Configure Hadoop Cluster on other nodes..." echo "hadoop-slave1" >> /etc/hosts echo "hadoop-slave2" >> /etc/hosts # Done echo "Hadoop Cluster Setup Complete!" ``` 这个脚本包括了以下步骤: 1. 设置主机名和 hosts 文件。 2. 安装 Java。 3. 下载和解压 Hadoop。 4. 配置 Hadoop。 5. 配置 Hadoop 集群。 6. 启动 Hadoop 集群。 7. 在其他节点上配置 Hadoop 集群。 可以将这个脚本保存为 `setup-hadoop.sh`,并在每个节点上运行它。注意,在运行脚本之前,需要将每个节点的 hostname 和 IP 地址添加到 `/etc/hosts` 文件中。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

「已注销」

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值