详细的大数据Hadoop环境设置

Hadoop受GNU / Linux平台及其风格的支持。因此,我们必须安装一个Linux操作系统来设置Hadoop环境。如果您的操作系统不是Linux,您可以在其中安装Virtualbox软件,并在Virtualbox中安装Linux。

预安装安装程序
在将Hadoop安装到Linux环境中之前,我们需要使用ssh(Secure Shell)设置Linux。按照下面给出的步骤设置Linux环境。

创建一个用户
在开始时,建议为Hadoop创建一个单独的用户,以将Hadoop文件系统与Unix文件系统隔离。按照以下步骤创建用户:

使用命令“su”打开根目录。
使用命令“useradd username”从root帐户创建一个用户。
现在您可以使用命令“su username”打开现有的用户帐户。
打开Linux终端并键入以下命令来创建用户。

$ su
   password:
# useradd hadoop
# passwd hadoop
   New passwd:
   Retype new passwd

SSH设置和密钥生成
SSH需要在集群上执行不同的操作,例如启动,停止,分布式守护进程shell操作。要验证Hadoop的不同用户,需要为Hadoop用户提供公钥/私钥对,并与不同的用户共享。

以下命令用于使用SSH生成键值对。将公钥从id_rsa.pub复制到authorized_keys,并为owner分别提供对authorized_keys文件的读写权限。

$ ssh-keygen -t rsa
$ cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
$ chmod 0600 ~/.ssh/authorized_keys

安装Java
Java是Hadoop的主要先决条件。首先,您应该使用命令“java -version”来验证系统中是否存在java。java version命令的语法如下所示。

$ java -version

如果一切顺利,它会给你以下输出。

java version "1.7.0_71"
Java(TM) SE Runtime Environment (build 1.7.0_71-b13)
Java HotSpot(TM) Client VM (build 25.0-b02, mixed mode)

如果你的系统中没有安装java,那么按照下面给出的步骤来安装java。

步骤1
通过访问以下链接下载java(JDK <最新版本> - X64.tar.gz)http://www.oracle.com/technetwork/java/javase/downloads/jdk7-downloads1880260.html。

然后将jdk-7u71-linux-x64.tar.gz下载到您的系统中。

第2步
通常,您会在Downloads文件夹中找到下载的java文件。验证它并使用以下命令提取jdk-7u71-linux-x64.gz文件。

$ cd Downloads/
$ ls
jdk-7u71-linux-x64.gz
$ tar zxf jdk-7u71-linux-x64.gz
$ ls
jdk1.7.0_71   jdk-7u71-linux-x64.gz

第3步
要使所有用户都可以使用Java,必须将其移动到“/ usr / local /”位置。打开root并键入以下命令。

$ su
password:
# mv jdk1.7.0_71 /usr/local/
# exit

步骤4
要设置PATH和JAVA_HOME变量,请将以下命令添加到〜/ .bashrc文件中。

export JAVA_HOME=/usr/local/jdk1.7.0_71
export PATH=$PATH:$JAVA_HOME/bin

现在将所有更改应用到当前正在运行的系统中。

$ source ~/.bashrc

第5步
使用以下命令配置java选项:

# alternatives --install /usr/bin/java java usr/local/java/bin/java 2

# alternatives --install /usr/bin/javac javac usr/local/java/bin/javac 2

# alternatives --install /usr/bin/jar jar usr/local/java/bin/jar 2

# alternatives --set java usr/local/java/bin/java

# alternatives --set javac usr/local/java/bin/javac

# alternatives --set jar usr/local/java/bin/jar

现在如上所述从终端验证java -version命令。

下载Hadoop
使用以下命令从Apache软件基础下载并提取Hadoop 2.4.1。
更多内容:http://codingdict.net/article/8109

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值