ubuntu安装hadoop详细步骤

hadoop官方网站对其安装配置hadoop的步骤太粗略,在这篇博客中,我会详细介绍在ubuntu中如何安装hadoop,并处理可能出现的一些问题。这里介绍的方法是用一台机器虚拟多个节点,这个方法已在如下环境中测试通过:
OS: Ubuntu 13.10
Hadoop: 2.2.0 (2.x.x)
个人认为在其他版本上安装Hadoop 2.x.x的方法基本相同,因此如果严格按照我给的步骤,应该不会有问题。

前提

安装 jdk 和 openssh
$ sudo apt-get install openjdk-7-jdk
$ java -version
java version "1.7.0_55"
OpenJDK Runtime Environment (IcedTea 2.4.7) (7u55-2.4.7-1ubuntu1~0.13.10.1)
OpenJDK 64-Bit Server VM (build 24.51-b03, mixed mode)
$ sudo apt-get install openssh-server
openjdk的默认路径是 /usr/lib/jvm/java-7-openjdk-amd64. 如果你的默认路径和我的不同,请再后面的操作中替换此路径。

添加Hadoop用户组和用户

$ sudo addgroup hadoop
$ sudo adduser --ingroup hadoop hduser
$ sudo adduser hduser sudo
然后切换到hduser账户

配置SSH

现在你在hduser账户中。 请注意下面命令中 '' 是两个单引号 ‘
$ ssh-keygen -t rsa -P ''
将public key加入到authorized_keys中,这样hadoop在运行ssh时就不需要输入密码了
$ cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
现在我们测试一下ssh
$ ssh localhost
如果你被询问是否确认连接,输入yes。如果你发现在即不需要输密码,cool -- 至少到目前位置你是正确的。否则,请debug。
$ exit

下载Hadoop 2.2.0 (2.x.x)

$ cd ~
$ wget http://www.trieuvan.com/apache/hadoop/common/hadoop-2.2.0/hadoop-2.2.0.tar.gz
$ sudo tar -xzvf hadoop-2.2.0.tar.gz -C /usr/local
$ cd /usr/local
$ sudo mv hadoop-2.2.0 hadoop
$ sudo chown -R hduser:hadoop hado
  • 0
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
1. 检查Java环境 在终端输入以下命令,检查Java环境是否已经安装: java -version 如果Java环境未安装,请先安装Java环境。 2. 下载Hadoop 在终端输入以下命令,下载Hadoop: wget https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/hadoop-3.3.1/hadoop-3.3.1.tar.gz 3. 解压Hadoop 在终端输入以下命令,解压Hadoop: tar zxvf hadoop-3.3.1.tar.gz 4. 配置Hadoop环境变量 在终端输入以下命令,打开Hadoop配置文件: vi ~/.bashrc 在文件末尾添加以下内容: export HADOOP_HOME=/path/to/hadoop export PATH=$PATH:$HADOOP_HOME/bin 将上述命令的/path/to/hadoop替换为Hadoop解压后的路径。 5. 配置Hadoop 在终端进入Hadoop解压后的目录,输入以下命令,打开Hadoop配置文件: cd hadoop-3.3.1 vi etc/hadoop/hadoop-env.sh 在文件添加以下内容: export JAVA_HOME=/path/to/java 将上述命令的/path/to/java替换为Java环境的路径。 6. 配置Hadoop集群 在终端进入Hadoop解压后的目录,输入以下命令,打开Hadoop配置文件: cd hadoop-3.3.1 vi etc/hadoop/core-site.xml 在文件添加以下内容: <configuration> <property> <name>fs.defaultFS</name> <value>hdfs://localhost:9000</value> </property> </configuration> 在终端输入以下命令,打开Hadoop配置文件: vi etc/hadoop/hdfs-site.xml 在文件添加以下内容: <configuration> <property> <name>dfs.replication</name> <value>1</value> </property> <property> <name>dfs.namenode.name.dir</name> <value>/path/to/hadoop/name</value> </property> <property> <name>dfs.datanode.data.dir</name> <value>/path/to/hadoop/data</value> </property> </configuration> 将上述命令的/path/to/hadoop/name和/path/to/hadoop/data替换为Hadoop数据存储的路径。 7. 启动Hadoop 在终端进入Hadoop解压后的目录,输入以下命令,启动Hadoop: sbin/start-all.sh 8. 验证Hadoop 在浏览器输入以下地址,验证Hadoop是否已经启动: http://localhost:50070 如果可以正常访问,表示Hadoop已经成功安装和配置。 9. 停止Hadoop 在终端进入Hadoop解压后的目录,输入以下命令,停止Hadoop: sbin/stop-all.sh 以上就是利用Ubuntu安装Hadoop详细步骤

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值