Hadoop-启动集群

本文档详细介绍了Hadoop集群的启动步骤和配置注意事项,包括NameNode和SecondaryNameNode的部署策略,ResourceManager的内存考虑,以及启动、测试、故障解决的流程。还涉及了配置历史服务器和日志聚集功能,提供了单节点服务的启停方法。
摘要由CSDN通过智能技术生成

启动集群

配置相关注意事项:

  1. NameNode和SecondaryNameNode不要放在同一个物理机上,比较消耗内存
  2. ResourceManager是消耗内存,不要和NameNode、SecondaryNameNode放在同一个物理机上

如果三台机器,可参考以下配置:

hadoop1 hadoop2 hadoop3
HDFS NameNode
DataNode
DataNode SecondaryNameNode
DataNode
Yarn NodeManager ResourceManager
NodeManager
NodeManager


hadoop 配置文件分为:默认配置文件、自定义配置文件:

默认配置文件
core-default.xml 、hdfs-default.xml、yarn-default.xml、mapred-default.xml,在在hadoop安装路径/share/hadoop下的/common/hadoop-common-3.1.4.jar、/hdfs/hadoop-hdfs-3.1.4.jar、/yarn/hadoop-yarn-common-3.1.4.jar、/mapreduce/hadoop-mapreduce-client-core-3.1.4.jar

自定义配置文件
core-site.xml 、hdfs-site.xml、yarn-site.xml、mapred-site.xml,在hadoop安装路径/etc/hadoop下



1. 自定义配置集群

  1. core-site.xml
<!--指定NameNode的地址-->
<property>
        <name>fs.defaultFS</name>
        <value>hdfs://hadoop1:8020</value>
</property>

<!--指定hadoop的存储目录,如不存在自动创建-->
<property>
  <name>hadoop.tmp.dir</name>
  <value>/opt/module/hadoop-3.1.4/data</value> 
</property>

<!--配置HDFS网页登录为静态用户,可操作网页-->
<property>
  <name>hadoop.http.staticuser.user
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值