Ubuntu 12.04搭建hadoop单机版环境

前言：

  本文章是转载的，自己又加上了一些自己的笔记整理的

  详细地址请查看Ubuntu 12.04搭建hadoop单机版环境

Hadoop的三种运行模式

独立模式：无需任何守护进程，所有程序都在单个JVM上执行。

伪分布模式：Hadoop守护进程运行在本地机器上，模拟一个小规模的集群。

全分布模式：Hadoop守护进程运行在一个集群中。

一. 安装Ubuntu；

二. 在Ubuntu下创建hadoop用户组和用户;

1. 创建hadoop用户组：

sudo groupadd hadoop

如图：

2. 创建hadoop用户：

sudo useradd -ms /bin/bash -g hadoop hadoop

如图：

3. 给hadoop用户添加sudo权限，打开/etc/sudoers文件：

sudo gedit /etc/sudoers

按回车键后就会打开/etc/sudoers文件了，给hadoop用户赋予root用户同样的权限。

在root   ALL=(ALL:ALL)   ALL下添加hadoop   ALL=(ALL:ALL)  ALL，

hadoop  ALL=(ALL:ALL) ALL

如图：

三. 在Ubuntu下安装JDK

使用如下命令执行即可：

sudo apt-get install openjdk-6-jre

(这里我自己下载的jdk，具体的安装方法见我的另一篇Linux下安装JDK和Eclipse)

如图：

四. 修改机器名

每当ubuntu安装成功时，我们的机器名都默认为：ubuntu ，但为了以后集群中能够容易分辨各台服务器，需要给每台机器取个不同的名字。机器名由 /etc/hostname文件决定。

1. 打开/etc/hostname文件：

sudo gedit /etc/hostname

2. 将/etc/hostname文件中的ubuntu改为你想取的机器名。这里我取"dubin-ubuntu"。 重启系统后才会生效。

3. 为了彻底的改变你的主机名，还需要更改vim /etc/hosts,将其中的

127.0.1.1改成和你hostname中一样的名字

五. 安装ssh服务

这里ssh可以实现远程登录和管理，具体可以参考其他相关资料。安装ssh的目的就是为了启动守护进行，且必须是无密码登陆的。

安装openssh-server，

sudo apt-get install ssh openssh-server

这时假设您已经安装好了ssh，您就可以进行第六步了哦~

六、 建立ssh无密码登录本机

首先要转换成hadoop用户，执行以下命令：

su - hadoop

如图：

ssh生成密钥有rsa和dsa两种生成方式，默认情况下采用rsa方式。

1. 创建ssh-key，，这里我们采用rsa方式：

ssh-keygen -t rsa -P ""

如图：

（注：回车后会在~/.ssh/下生成两个文件：id_rsa和id_rsa.pub这两个文件是成对出现的）

2. 进入~/.ssh/目录下，将id_rsa.pub追加到authorized_keys授权文件中，开始是没有authorized_keys文件的：

cd ~/.ssh cat id_rsa.pub >> authorized_keys

如图：

（完成后就可以无密码登录本机了。）

3. 登录localhost：

ssh localhost

如图：

( 注：当ssh远程登录到其它机器后，现在你控制的是远程的机器，需要执行退出命令才能重新控制本地主机。)

4. 执行退出命令：

exit

七. 安装hadoop

这里我的安装版本为：hadoop-1.1.2（http://www.apache.org/dyn/closer.cgi/hadoop/common/  ）

1. 假设hadoop-0.20.203.tar.gz在桌面，将它复制到安装目录 /usr/local/下：

sudo cp hadoop-1.1.2.tar.gz /usr/local/

2. 解压hadoop-1.1.2.tar.gz：

cd /usr/local sudo tar -zxf hadoop-1.1.2.tar.gz

3. 将解压出的文件夹改名为hadoop：

sudo mv hadoop-1.1.2 hadoop1.1.2

4. 将该hadoop1.1.2文件夹的属主用户设为hadoop：

sudo chown -R hadoop:hadoop hadoop1.1.2

5. 打开hadoop/conf/hadoop-env.sh文件：

vim hadoop1.1.2/conf/hadoop-env.sh

6. 配置conf/hadoop-env.sh（找到#export JAVA_HOME=...,去掉#，然后加上本机jdk的路径）：

export JAVA_HOME=/usr/lib/jvm/java-6-openjdk

这个主要就是为了配置hadoop运行环境的jdk路径

7. 打开conf/core-site.xml文件：

sudo gedit hadoop/conf/core-site.xml

编辑如下：