Ubuntu安装Hadoop

一、Hadoop的运行模式

单机模式(standalone 
单机模式是Hadoop的默认模式。当首次解压Hadoop的源码包时,Hadoop无法了解硬件安装环境,便保守地选择了最小配置。在这种默认模式下所有3个XML文件均为空。当配置文件为空时,Hadoop会完全运行在本地。因为不需要与其他节点交互,单机模式就不使用HDFS,也不加载任何Hadoop的守护进程。该模式主要用于开发调试MapReduce程序的应用逻辑。 
伪分布模式(Pseudo-Distributed Mode 
伪分布模式在“单节点集群”上运行Hadoop,其中所有的守护进程都运行在同一台机器上。该模式在单机模式之上增加了代码调试功能,允许你检查内存使用情况,HDFS输入输出,以及其他的守护进程交互。 
全分布模式(Fully Distributed Mode 
Hadoop守护进程运行在一个集群上。

二、创建hadoop组和hadoop用户

增加hadoop用户组,同时在该组里增加hadoop用户,后续在涉及到hadoop操作时,我们使用该用户。 
1、创建hadoop用户组

sudo addgroup hadoop

141557_4PGw_2345870.png 
groupdel users 删除组users 
2、创建hadoop用户hdp

 sudo adduser -ingroup hadoop hdp

141608_T3lo_2345870.png

回车后会提示输入新的UNIX密码,这是新建用户hdp的密码,输入回车即可。如果不输入密码,回车后会重新提示输入密码,即密码不能为空。最后确认信息是否正确,如果没问题,输入 Y,回车即可。 
141617_Wr1f_2345870.png

3、为hadoop用户添加权限 
输入:sudo gedit /etc/sudoers ,回车, 
打开sudoers文件,给hadoop用户赋予和root用户同样的权限。 
141633_Qx9x_2345870.png

三、用新增加的hdp用户登录Ubuntu系统

命令行输入 su hpd 并输入密码。 
或者 
直接切换图形操作系统。

四、安装SSH

sudo apt-get install openssh-server

141622_OPb2_2345870.png

安装完成后,启动服务:sudo /etc/init.d/ssh start 
并查看服务是否正确启动:ps -e | grep ssh 

作为一个安全通信协议,使用时需要密码,因此我们要设置成免密码登录,生成私钥和公钥:

ssh-keygen -t rsa -P ""

141656_lpwm_2345870.png

第一次操作时会提示输入密码,按Enter直接过,这时会在~/home/{username}/.ssh下生成两个文件:id_rsa和id_rsa.pub,前者为私钥,后者为公钥。

现在将公钥追加到authorized_keys中(authorized_keys用于保存所有允许以当前用户身份登录到ssh客户端的用户)

cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

现在可以登入ssh确认以后登录时不用输入密码: 
ssh localhost 
141658_VBO0_2345870.png
登出:exit

第二次登录: 
141703_AXnS_2345870.png
登出:exit

五、安装Java环境

安装jdk:sudo apt-get install openjdk-7-jdk 
141708_h8nk_2345870.png

查看安装结果,输入命令:java -version,结果如下表示安装成功。 
141713_fluy_2345870.png

六、安装hadoop2.5.2

1、下载 
官网下载http://mirror.bit.edu.cn/apache/hadoop/common/ 
141718_nITP_2345870.png

下载hadoop-2.5.2-src.tar.gz 并放到你希望的目录中, 
我是放到/software/中。

141725_540I_2345870.png
2、安装 
解压sudo tar xzf hadoop-2.5.2.tar.gz 
141729_BfTM_2345870.png

修改文件夹名,并且赋予用户对该文件夹的读写权限。

sudo mv hadoop-2.5.2 hadoop

sudo chmod 774 hadoop

141734_XY9f_2345870.png

更多详情见请继续阅读下一页的精彩内容: http://www.linuxidc.com/Linux/2015-03/115173.htm

--------------------------------------分割线 --------------------------------------

Ubuntu14.04下Hadoop2.4.1单机/伪分布式安装配置教程  http://www.linuxidc.com/Linux/2015-02/113487.htm

CentOS安装和配置Hadoop2.2.0  http://www.linuxidc.com/Linux/2014-01/94685.htm

Ubuntu 13.04上搭建Hadoop环境 http://www.linuxidc.com/Linux/2013-06/86106.htm

Ubuntu 12.10 +Hadoop 1.2.1版本集群配置 http://www.linuxidc.com/Linux/2013-09/90600.htm

Ubuntu上搭建Hadoop环境(单机模式+伪分布模式) http://www.linuxidc.com/Linux/2013-01/77681.htm

Ubuntu下Hadoop环境的配置 http://www.linuxidc.com/Linux/2012-11/74539.htm

单机版搭建Hadoop环境图文教程详解 http://www.linuxidc.com/Linux/2012-02/53927.htm

搭建Hadoop环境(在Winodws环境下用虚拟机虚拟两个Ubuntu系统进行搭建) http://www.linuxidc.com/Linux/2011-12/48894.htm

转载于:https://my.oschina.net/519617/blog/687637

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值