Hadoop配置

文章讲述了在CentOS系统中如何配置静态IP地址,包括修改网络配置文件,重启网络服务,以及设置主机名。接着,介绍了安装必要软件如net-tools和vim,卸载原生JDK,关闭防火墙。重点在于集群的构建,包括克隆系统,设置hosts文件,实现SSH免密登录,以及在所有节点上部署JDK和Hadoop,进行时间同步,解压并配置软件,最后格式化和启动Hadoop集群。
摘要由CSDN通过智能技术生成
  • 静态IP

vi /etc/sysconfig/network-scripts/ifcfg-ens33

BOOTPROTO=static

ONBOOT=yes

IPADDR=192.168.10.11

NETMASK=255.255.255.0

GATEWAY=192.168.138.2

DNS1=114.114.114.114

DNS2=8.8.8.8

在这里插入图片描述

重启网络服务

service network restart

  • 修改主机名

hostnamectl set-hostname ‘hadoop01’

  • 安装相关软件

安装下载库

yum install -y epel-release

如果是最小化安装,还需安装以下工具:

net-tool:工具包集合,包含ifconfig等命令

yum install -y net-tools

vim:编辑器(可选)

yum install -y vim

  • 卸载原生 JDK,最小化安装的无需操作。

rpm -qa | grep -i java | xargs -n1 rpm -e --nodeps

  • 关闭防火墙

临时关闭防火墙

systemctl stop firewalld

永久关闭防火墙

systemctl disable firewalld

  • 克隆,记得关机哈,复制3台

  • 修改 hosts 文件,提前添加映射,注意保存退出。(三台都要设置)

vi /etc/hosts

  • 免密登录设置

生成公钥和私钥 (三台都要设置)

ssh-keygen,3个电脑都设置

把密码互相告诉对方(三台都要设置)

ssh-copy-id jidian01

ssh-copy-id jidian02

ssh-copy-id jidian03

  • 创建softwares文件夹

mkdir softwares

  • 把JDK和HADOOPA放在softwares文件夹

jdk-8u212-linux-x64.tar.gz

hadoop-3.1.3.tar.gz

  • 时间同步

crontab -e(三个都要做)

在这里插入图片描述

  • 解压jdk 和hadoop

tar -zxvf jdk-8u212-linux-x64.tar.gz -C /usr/local/

tar -zxvf hadoop-3.1.3.tar.gz -C /usr/local/

  • 配置环境变量

vim /etc/profile

在这里插入图片描述

  • 生效环境变量

source /etc/profile

  • 配置Hadoop

core-site.xml

在这里插入图片描述

hdfs-site.xml

在这里插入图片描述

hadoop-env.sh

在这里插入图片描述

  • 配置workers

vim workers

在这里插入图片描述

  • 分发

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

  • 格式化集群

hdfs namenode -format

  • 启动集群

start-dfs.sh

  • 配置本地host

C:\Windows\System32\drivers\etc

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

酒菡

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值