我最近使用四台Centos虚拟机搭建了一套分布式hadoop环境,简单模拟了线上上的hadoop真实分布式集群,主要用于业余学习大数据相关体系。
其中,一台服务器作为NameNode,一台作为Secondary NameNode,剩下两台当做DataNodes节点服务器,类似下面这样一个架构——
NameNode | Secondary NameNode | DataNodes | |
---|---|---|---|
master1(192.168.200.111) | √ | ||
master2(192.168.200.112) | √ | ||
slave1(192.168.200.117) | √ | ||
slave2(192.168.200.115) | √ |
接下来,就是开始通过hadoop自带的wordcount来统计一下文件当中的字符数量。
启动hadoop集群后,在集群可用情况下,按照以下步骤:
一、进入到hadoop安装目录,创建一个测试文件example.txt
我的安装目录是:/opt/hadoop/app/hadoop/hadoop-2.7.5
[root@192 hadoop-2