伪分布式Hadoop配置安装

1. 安装Hadoop到/home/xsj/hadoop:
$ tar -zxvf hadoop-0.20.2.tar.gz

2. 创建目录:
$ mkdir /home/xsj/hadoop/hadoop-0.20.2/hadooptmp
$ mkdir /home/xsj/hadoop/hadoop-0.20.2/hdfs/data
$ mkdir /home/xsj/hadoop/hadoop-0.20.2/hdfs/name
$ mkdir /home/xsj/hadoop/hadoop-0.20.2/mapred/local
$ mkdir /home/xsj/hadoop/hadoop-0.20.2/mapred/system

3. 修改~/hadoop/hadoop-0.20.2/conf/下的配置文件:
(1)hadoop-env.sh:
export JAVA_HOME=/usr/java/jdk1.7.0_17

(2)core-site.xml
<configuration>
<property>
<name>fs.default.name</name>
<value>hdfs://localhost:9000</value>
</property>

<property>
<name>hadoop.tmp.dir</name>
<value>/home/xsj/hadoop/hadoop-0.20.2/hadooptmp</value>
</property>
</configuration>

(3)hdfs-site.xml
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>

<property>
<name>dfs.name.dir</name>
<value>/home/xsj/hadoop/hadoop-0.20.2/hdfs/name</value>
</property>

<property>
<name>dfs.data.dir</name>
<value>/home/xsj/hadoop/hadoop-0.20.2/hdfs/data</value>
</property>
</configuration>

(4)mapred-site.xml
<configuration>
<property>
<name>mapred.job.tracker</name>
<value>localhost:9001</value>
</property>

<property>
<name>mapred.local.dir</name>
<value>/home/xsj/hadoop/hadoop-0.20.2/mapred/local</value>
</property>

<property>
<name>mapred.system.dir</name>
<value>/home/xsj/hadoop/hadoop-0.20.2/mapred/system</value>
</property>
</configuration>

(5)masters
localhost

(6)slaves
localhost

4. 格式化HDFS文件系统:
$ ./bin/hadoop namenode -format

控制台显示一下信息则说明格式化成功

Storage directory /usr/local/hadoop-1.1.2/tmp/dfs/name has been successfully formatted


5. 启动Hadoop:
$ ./bin/start-all.sh

6. 验证Hadoop是否安装成功:
打开浏览器,分别输入网址:
http://localhost:50030 (MapReduce的Web页面)
http://localhost:50070 (HDFS的Web页面)

7. 关闭Hadoop:
$ ./bin/stop-all.sh

8. 特别注意:
(1)不要以root身份运行Hadoop,否则会涉及到Java虚拟机的-jvm选项问题,导致Hadoop启动失败。

(2)每次重启Hadoop之前,务必先删除hadooptmp文件夹,防止因hadoop的错误退出导致的启动namenode和jobtracker失败。

(3)单机伪分布式部署启动失败可以尝试格式化HDFS文件系统。

(4)有用的命令:$ jps

  jps检验各后台进程是否成功启动

jps命令可以用来查看hadoop启动的java进程。

3991 Jps
3675 DataNode
3779 SecondaryNameNode
3851 JobTracker
3571 NameNode
3952 TaskTracker


  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值