hadoop集群动态扩展节点

八、修改spark配置


一、修改hostname

hostnamectl set-hostname hadoopxx

二、修改网络配置

1、生成UUID

UUID是网络的唯一标识,不能和之前的主机重复

uuidgen

2、修改 /etc/sysconfig/network-scripts/ifcfg-ens33 文件

ifconfig

cat /etc/sysconfig/network-scripts/ifcfg-ens33

cp /etc/sysconfig/network-scripts/ifcfg-ens33 /etc/sysconfig/network-scripts/ifcfg-ens33.tempalte

vim /etc/sysconfig/network-scripts/ifcfg-ens33

TYPE=“Ethernet”

PROXY_METHOD=“none”

BROWSER_ONLY=“no”

BOOTPROTO=“static”

DEFROUTE=“yes”

IPV4_FAILURE_FATAL=“no”

IPV6INIT=“yes”

IPV6_AUTOCONF=“yes”

IPV6_DEFROUTE=“yes”

IPV6_FAILURE_FATAL=“no”

IPV6_ADDR_GEN_MODE=“stable-privacy”

NAME=“ens33”

UUID=“f18dea2a-c2de-489d-b172-d52c385bbbf6”

DEVICE=“ens33”

ONBOOT=“yes”

IPADDR=“192.168.x.xxx”

NETMASK=“255.255.255.0”

GATEWAY=“192.168.0.1”

DNS=“192.168.0.1”

NM_CONTROLLED=“no”

3、停止networkManager服务

systemctl stop NetworkManager.service

systemctl disable NetworkManager.service

4、重启网卡服务

systemctl restart network

ifconfig

ping hao123.com

三、修改 hosts 文件

cat /etc/hosts

需要添加的节点ip和host

192.168.0.133 hadoop4

192.168.0.134 hadoop5

echo "192.168.0.133 hadoop4

192.168.0.134 hadoop5" >> /etc/hosts

cat /etc/hosts

reboot

四、SSH免密登录配置

大数据入门之 ssh 免密码登录https://blog.csdn.net/qq262593421/article/details/105325593

注意事项:

1、因为是复制过来的节点,原来的 ssh keygen 没变,这里直接 overwrite 就行了

2、原来的免密登录已经失效,需要把 /root/.ssh/known_hosts 文件和 authorized_keys 文件****清空重新配置

cat /root/.ssh/known_hosts

/root/.ssh/known_hosts

cat /root/.ssh/known_hosts

cat /root/.ssh/authorized_keys

/root/.ssh/authorized_keys

cat /root/.ssh/authorized_keys

五、修改zookeeper配置

1、配置 zoo.cfg 文件

cd $ZOO_HOME/conf

cat $ZOO_HOME/conf/zoo.cfg

echo "server.4=hadoop4:2888:3888

tail -n 10 $ZOO_HOME/conf/zoo.cfg

2、 配置 zookeeper的myid

cat $ZOO_HOME/data/myid

n 为zookeeper的myid,一直累加下去就行了,这里用的4和5

echo “n” > $ZOO_HOME/data/myid

cat $ZOO_HOME/data/myid

六、修改hadoop配置

cd $HADOOP_HOME/etc/hadoop

cat $HADOOP_HOME/etc/hadoop/workers

如果没有换行先换行

echo “” >>$HADOOP_HOME/etc/hadoop/workers

echo "hadoop4

最后

自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。

深知大多数Java工程师,想要提升技能,往往是自己摸索成长,自己不成体系的自学效果低效漫长且无助。

因此收集整理了一份《2024年Java开发全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。

既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上Java开发知识点,不论你是刚入门Java开发的新手,还是希望在技术上不断提升的资深开发者,这些资料都将为你打开新的学习之门!

如果你觉得这些内容对你有帮助,需要这份全套学习资料的朋友可以戳我获取!!

由于文件比较大,这里只是将部分目录截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且会持续更新!
116344)]

[外链图片转存中…(img-cvpexafy-1715689116344)]

既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上Java开发知识点,不论你是刚入门Java开发的新手,还是希望在技术上不断提升的资深开发者,这些资料都将为你打开新的学习之门!

如果你觉得这些内容对你有帮助,需要这份全套学习资料的朋友可以戳我获取!!

由于文件比较大,这里只是将部分目录截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且会持续更新!

  • 28
    点赞
  • 18
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值