linux安装hadoop图文教程,Linux中安装配置hadoop集群详细步骤

Linux中安装配置hadoop集群详细步骤

发布时间：2017-04-08 09:01

来源：互联网

当前栏目：web技术类

一. 简介

参考了网上许多教程，最终把hadoop在ubuntu14.04中安装配置成功。下面就把详细的安装步骤叙述一下。我所使用的环境：两台ubuntu 14.04 64位的台式机，hadoop选择2.7.1版本。(前边主要介绍单机版的配置，集群版是在单机版的基础上，主要是配置文件有所不同，后边会有详细说明)

二. 准备工作

2.1 创建用户

创建用户，并为其添加root权限，经过亲自验证下面这种方法比较好。sudo adduser hadoop sudo vim /etc/sudoers # 修改内容如下： root ALL = (ALL)ALLhadoop ALL = (ALL)ALL

给hadoop用户创建目录，并添加到sudo用户组中，命令如下：sudo chown hadoop /home/hadoop # 添加到sudo用户组 sudo adduser hadoop sudo

最后注销当前用户，使用新创建的hadoop用户登陆。

2.2 安装ssh服务

ubuntu中默认是没有装ssh server的(只有ssh client)，所以先运行以下命令安装openssh-server。安装过程轻松加愉快～sudo apt-get install ssh openssh-server

2.3 配置ssh无密码登陆

直接上代码：执行完下边的代码就可以直接登陆了(可以运行ssh localhost进行验证)cd ~/.ssh　　# 如果找不到这个文件夹，先执行一下 "ssh localhost" ssh-keygen -t rsa cp id_rsa.pub authorized_keys

注意：

这里实现的是无密登陆自己，只适用与hadoop单机环境。如果配置Hadoop集群设置Master与Slave的SSH无密登陆可以参考我的另一篇博文：http://www.jb51.net/article/105483.htm

三. 安装过程

3.1 下载hadoop安装包

有两种下载方式：

1. 直接去官网下载：

http://mirrors.hust.edu.cn/apache/hadoop/core/stable/hadoop-2.7.1.tar.gz

2. 使用wget命令下载：

复制代码 代码如下:

wget http://mirrors.hust.edu.cn/apache/hadoop/core/stable/hadoop-2.7.1.tar.gz

3.2 配置hadoop

1. 解压下载的hadoop安装包，并修改配置文件。我的解压目录是(/home/hadoop/hadoop-2.7.1)，即进入/home/hadoop/文件夹下执行下面的解压缩命令。tar -zxvf hadoop-2.7.1.tar.gz

2. 修改配置文件：(hadoop2.7.1/etc/hadoop/)目录下，hadoop-env.sh，core-site.xml，mapred-site.xml.template，hdfs-site.xml。

(1). core-site.xml 配置：其中的hadoop.tmp.dir的路径可以根据自己的习惯进行设置。hadoop.tmp.dirfile:/home/hadoop/hadoop/tmpAbase for other temporary directories.fs.defaultFShdfs://localhost:9000

(2). mapred-site.xml.template配置:mapred.job.trackerlocalhost:9001

(3). hdfs-site.xml配置: 其中dfs.namenode.name.dir和dfs.datanode.data.dir的路径可以自由设置，最好在hadoop.tmp.dir的目录下面。

注意：如果运行Hadoop的时候发现找不到jdk，可以直接将jdk的路径放置在hadoop-env.sh里面，具体如下：