Hadoop集群单机伪分布搭建

1.前提准备

关闭防火墙:
1. 永久性生效(这里需要重启机器才能生效 reboot
开启:chkconfig iptables on
关闭:chkconfig iptables off(推荐)

2. 即时生效,重启后失效
开启:service iptables start
关闭:service iptables stop
3.查看状态

service iptables status

Javahadoop环境都已经配置好
如果没有搭建请看:使用CentOS6.8搭建Hadoop集群,只需要下载配置环境变量。

2.修改主机名与ip映射

vi /etc/hosts
前面的不用动,只要设置本机ip与主机名,例如: 192.168.10.3 master2
在这里插入图片描述

3. 修改配置文件

注意:hadoop2.x的配置文件在$HADOOP_HOME/etc/hadoop

进入该目录:cd /$HADOOP_HOME/etc/hadoop 伪分布式需要修改5个配置文件
3.1第一个:hadoop-env.sh

vi hadoop-env.sh
修改第26/27行数据如下所示:
export JAVA_HOME=/usr/local/jdk

在这里插入图片描述
3.2. 第二个:core-site.xml
命令: vi core-site.xml

<configuration>
<!-- 制定HDFS的老大(NameNode)的地址 -->
	<property>
		<name>fs.defaultFS</name>
		<value>hdfs://master2:9000</value>
	</property>
	<!-- 指定hadoop运行时产生文件的存储目录 -->
	<property>
		<name>hadoop.tmp.dir</name>
		<value>/opt/hadoop/tmp</value>
    </property>
</configuration>

3.3. 第三个:hdfs-site.xml
命令: vi hdfs-site.xml 添加如下信息,如果已经存在请将数字改成1,因为副本数小于等于节点上。

<!-- 指定HDFS副本的数量 -->
<property>
	<name>dfs.replication</name>
	<value>1</value>
</property>

3.4. 第四个:mapred-site.xml

修改文件名 mv mapred-site.xml.template mapred-site.xml
命令: vi mapred-site.xml

<!-- 指定mr运行在yarn上 -->
		<property>
			<name>mapreduce.framework.name</name>
			<value>yarn</value>
        </property>

3.5. 第五个:yarn-site.xml

<!-- 指定YARN的老大(ResourceManager)的地址 -->
		<property>
			<name>yarn.resourcemanager.hostname</name>
			<value>master2</value>
        </property>
		<!-- reducer获取数据的方式 -->
        <property>
			<name>yarn.nodemanager.aux-services</name>
			<value>mapreduce_shuffle</value>
        </property>

4. 格式化namenode(是对namenode进行初始化)

hadoop namenode -format

5. 启动hadoop

    先启动HDFS
	

sbin/start-dfs.sh

在这里插入图片描述

		
		再启动YARN
		

    sbin/start-yarn.sh

在这里插入图片描述

以上开启命令可以直接start-all.sh

6. 验证是否启动成功

	使用`jps`命令验证

在这里插入图片描述

7. 浏览器查看

http://ip地址:50070 (HDFS管理界面)
在这里插入图片描述
http://ip地址:8088 yarn管理界面)
在这里插入图片描述
以上完成之后,说明单机伪分布已经搭建完成。接下来可以尝试一下搭建单机伪分布安装HBase
或者zookeeper单机与伪分布式安装与配置

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

脸ル粉嘟嘟

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值