写在前面
这个是研一选的高性能计算的一门课堂作业,其中要求搭建Hadoop集成环境,一台master主机,两台slave主机。
在这里将报告内容粘贴过来,将来可能会用到。
环境搭建过程
实验环境:
- 主机OS:Ubuntu14.04 desktop amd64
- Hadoop版本:2.9.0
- Java版本:8u151
安装hadoop
进去hadoop官网:
下载需要的版本:
在这里我选择下载2.9.0版本的Hadoop,下载后使用命令:
tar -xzvf hadoop-2.9.0.tar.gz
将其解压缩.
进入解压缩之后的目录我们可以看到一下目录结构:
我们将hadoop-2.9.0的文件移动到到/usr/local/下,并重命名为hadoop,这里使用命令:
sudo mv /home/meishijia/Downloads/hadoop-2.9.0 hadoop
新建hadoop 用户和用户组,修改权限
然后创建新用户hadoop以及将hadoop用户添加到hadoop用户组中。分别执行命令:
sudo adduser hadoop
sudo usermod -a -G hadoop hadoop
使用命令查看是否添加成功:
cat /etc/group
修改hadoop的权限使其拥有跟root用户一样的权限。
在里面添加一行:hadoop ALL=(ALL) ALL
接着通过以下的命令使hadoop对hadoop文件夹有相关的权限。
sudo chown -R hadoop:hadoop ./hadoop/