Hadoop安装教程_单机/伪分布式配置

这篇博客详细介绍了如何在Ubuntu 14.04上安装和配置Hadoop 2.6.0,包括创建Hadoop用户,配置SSH无密码登录,安装JAVA环境,单机和伪分布式配置,以及启动YARN的步骤。通过这个教程,读者可以了解Hadoop的基本设置和运行实例。
摘要由CSDN通过智能技术生成

Hadoop安装教程_单机/伪分布式配置

参考资料:给力星博客StackOverFlow

系统环境:Ubunut 14.04 64位虚拟机

Hadoop版本:Hadoop 2.6.0

创建Hadoop用户

如果你安装 Ubuntu 的时候不是用的 “hadoop” 用户,那么需要增加一个名为 hadoop 的用户。

sudo useradd -m hadoop -s /bin/bash

这条命令创建了可以登陆的 hadoop 用户,并使用 /bin/bash 作为 shell。

接着使用如下命令设置密码,可简单设置为 hadoop,按提示输入两次密码:

sudo passwd hadoop

可为 hadoop 用户增加管理员权限,方便部署,避免一些对新手来说比较棘手的权限问题:

sudo adduser hadoop sudo

最后注销当前用户(点击屏幕右上角的齿轮,选择注销),使用刚创建的 hadoop 用户进行登陆。

配置SSH无密码登录

可以通过以下命令登录本机

ssh localhost

按照提示输入yes,然后输入密码,这样登录每次都要输入密码,我们配置成无密码登录比较方便,首退出刚才的ssh,输入以下命令,就可以无密码登录了

exit                           # 退出刚才的 ssh localhost
cd ~/.ssh/                     # 若没有该目录,ssh localhost
ssh-keygen -t rsa              # 会有提示,都按回车就可以
cat ./id_rsa.pub >> ./authorized_keys  # 加入授权

安装JAVA环境

Java环境可选择 Oracle 的 JDK,或是 OpenJDK,按http://wiki.apache.org/hadoop/HadoopJavaVersions中说的,新版本在 OpenJDK 1.7 下是没问题的。为图方便,这边直接通过命令安装 OpenJDK 7。

sudo apt-get install openjdk-7-jre openjdk-7-jdk

安装好openJDK之后我们可以通过以下命令来的到安装路径,用于后面JAVA_HOME环境变量的配置。

dpkg -L openjdk-7-jdk | grep '/bin/javac'

安装Hadoop 2

Hadoop 2 可以通过 http://mirror.bit.edu.cn/apache/hadoop/common/ 或者 http://mirrors.cnnic.cn/apache/hadoop/common/ 下载,一般选择下载最新的稳定版本,即下载 “stable” 下的 hadoop-2.x.y.tar.gz 这个格式的文件,这是编译好的,另一个包含 src 的则是 Hadoop 源代码,需要进行编译才可使用。

下载时强烈建议也下载 hadoop-2.x.y.tar.gz.mds 这个文件,该文件包含了检验值可用于检查 hadoop-2.x.y.tar.gz 的完整性,否则若文件发生了损坏或下载不完整,Hadoop 将无法正常运行。

本文涉及的文件均通过浏览器下载,默认保存在 “下载” 目录中(若不是请自行更改 tar 命令的相应目录)。另外,本教程选择的是 2.6.0 版本,如果你用的不是 2.6.0 版本,则将所有命令中出现的 2.6.0 更改为你所使用的版本。

cat ~/Downloads/hadoop-2.6.0.tar.gz.mds | grep 'MD5' # 列出md5检验值
# head -n 6 ~/Downloads/hadoop-2.7.1.tar.gz.mds # 2.7.1版本格式变了,可以用这种方式输出
md5sum ~/Downloads/hadoop-2.6.0.tar.gz | tr "a-z" 
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值