搭建Hadoop集群

本文详细介绍了如何搭建一个Hadoop集群,包括Linux环境配置、静态IP设置、免密登录、分发脚本创建、Hadoop和JDK的安装与配置、环境变量设置以及HDFS和YARN的启动与管理。适合初学者跟随操作。
摘要由CSDN通过智能技术生成

ROOT:Hadoop123
atguigu:atguigu/123456
内存2G,硬盘50G
1. 安装好linux
    /boot 200M
    /swap 2g
    / 剩余    
2. *安装VMTools
3. 关闭防火墙
   sudo systemctl stop firewalld
   sudo systemctl disable firewalld
4. 设置静态IP,改主机名
    编辑vim /etc/sysconfig/network-scripts/ifcfg-eth0(阿里云此处不修改)
    改成
=================================
DEVICE=eth0
TYPE=Ethernet
ONBOOT=yes
BOOTPROTO=static
NAME="eth0"
IPADDR=192.168.5.101
PREFIX=24
GATEWAY=192.168.5.2
DNS1=192.168.5.2
=================================
 编辑vim /etc/sysconfig/network
 改HOSTNAME=那一行   
5. 配置/etc/hosts增加私网IP,在c盘C:\Windows\System32\drivers\etc中hosts文件中增加公网IP(阿里云服务器)
    vim /etc/hosts
=============================
39.101.171.194 172.26.89.117
39.101.177.65  172.26.89.119
39.99.145.17   172.26.89.118
=============================
6. 创建一个一般用户atguigu,给他配置密码
    useradd atguigu
    passwd atguigu   
7. 配置这个用户为/etc/sudoers,          sudo vi /etc/sudoers
    在root    ALL=(ALL)       ALL
    添加atguigu    ALL=(ALL)       NOPASSWD:ALL
    保存时wq!保存   
8. 在/opt目录下创建两个文件夹module和software,并把所有权赋给atguigu
    mkdir /opt/module /opt/software
    chown atguigu:atguigu /opt/module /opt/software
从这里开始要以一般用户登陆
9. 搞一个分发脚本
    cd ~
    vim xsync
    内容如下:
=================================================================
#!/bin/bash
#1. 判断参数个数
if [ $# -lt 1 ]
then
    echo Not Enough Arguement!
    exit;
fi
#2. 遍历集群所有机器
for host in hadoop102 hadoop103 hadoop104
do
    echo ====================    $host    ====================
    #3. 遍历所有目录,挨个发送
    for file in $@
    do
        #4 判断文件是否存在
        if [ -e $file ]
        then
            #5. 获取父目录
            pdir=$(cd -P $(dirname $file); pwd)
            
            #6. 获取当前文件的名称
            fname=$(basename $file)

            
            ssh $host "mkdir -p $pdir"
   

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值