Ubuntu下搭建单节点Hadoop环境及WordCount示例的运行

基于前两篇的基础,在ubuntu下搭建hadoop环境及运行wordcount示例的过程比较顺利,现做一下简单记录。
环境:ubuntu10.04 hadoop0.20.2 jdk1.6.0_29
步骤如下:
1.安装JDK并配置环境变量
一些文章里说用sudo apt-get install sun-java6-jdk之类的命令,我对ubuntu比较小白,半天也没折腾出来,然后就直接去oralce的官网下了linux版本的jdk。 :oops:

配置环境变量:

sudo gedit /etc/profile

在最后边追加:

#set java environment
export JAVA_HOME=/usr/java/jdk1.6.0_29
export PATH=$JAVA_HOME/bin:$PATH
export CLASSPATH=.:$JAVA_HOME/lib/tools.jar:$JAVA_HOME/lib/dt.jar:$CLASSPATH

别忘了用echo和java -version验证以下。 :arrow:

2.添加用户组和用户,都取名hadoop,新用户hadoop不能执行sudo命令。

sudo addgroup hadoop
sudo adduser --ingroup hadoop hadoop


3.配置ssh

sudo apt-get install openssh-server //安装openssh-server
su - hadoop //切换到hadoop用户
ssh-keygen -t rsa -P "" //生成ssh key
cat $HOME/.ssh/id_rsa.pub >> $HOME/.ssh/authorized_keys //设置允许ssh访问

设置完成后通过ssh localhost测试一下。

4.关掉ipv6
修改hadoop根目录下conf/hadoop-env.sh文件(还没下载hadoop的下载解压先~)

export HADOOP_OPTS=-Djava.net.preferIPv4Stack=true


5.将hadoop目录所有者更改为用户hadoop

sudo chown -R hadoop:hadoop /usr/hadoop-0.20.2


6.安装hadoop
过程同windows下基本一致,详见之前的文章。还是要[color=red]注意两点:a.设置core-site.xml中hadoop.tmp.dir的值,我设为/home/hadoop/tmp。b.把hadoop-env.sh中JAVA_HOME前边的#去掉。[/color] :evil:

7.格式化namenode

./hadoop namenode -format


8.启动hadoop

./start-all.sh


9.启动成功后,用jps查看下。

[img]http://dl.iteye.com/upload/attachment/0065/8598/2f0845ba-1db3-32e4-9a62-0019b24e87c4.png[/img]

10.运行WordCount吧!少年!
wordcount示例运行详见前边的文章,但是并没有出现在windows下出现的那两个问题。

参考博客:
http://www.cnblogs.com/end/archive/2011/04/19/2021536.html
http://www.hadoopor.com/thread-2674-1-1.html
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值