在64位ubuntu16.04下编译hadoop2.8.1

  首先,为什么要编译hadoop?hadoop官网不是有现成编译好的包吗?那是因为hadoop官方提供的是在32位系统下编译过的hadoop,要想在64位系统下运行hadoop必须要重新编译。(注意:在编译全程需要联网)

(一)下载hadoop

  到官网http://hadoop.apache.org/releases.html下载hadoop2.8.1版本的包,其中source就是我们需要下载一会要编译的包,而下面的binary就是之前说的32位系统下的编译好的包。


解压hadoop-2.8.1-src.tar.gz

tar -zxvf  hadoop-2.8.1-src.tar.gz -C /home/sunbite

(二)安装编译需要的一些软件和库

需要安装些什么呢?最好还是参照官方的文档。我们打开刚才解压好的hadoop-2.8.1-src,里面有个BUILDING.txt里面说明了ubuntu需要安装的一些软件和库。

1.安装jdk

去官网http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html下载


(1)下载jdk-8u144-linux-x64.tar.gz这个包,然后解压到/home/sunbite(自己想要安装的位置)

tar -zxvf jdk-8u144-linux-x64.tar.gz -C /home/sunbite
(2)配置环境变量

sudo vim /etc/profile
在profile文件的最下方添加一下代码:

export JAVA_HOME=/home/sunbite/jdk1.8.0_144

export PATH=$JAVA_HOME/bin:$PATH

保存退出

别忘了source一下

source /etc/profile
最后 验证一下是否安装成功:(由于我之前安装过jdk1.8.0_131版本,就没有改。。。)
java -version


2.安装maven

在官网http://maven.apache.org/download.cgi下载


(1)下载apache-maven-3.5.0-bin.tar.gz这个包,然后解压到/home/sunbite(自己想安装的地方)

tar -zxvf apache-maven-3.5.0-bin.tar.gz -C /home/sunbite
(2)配置环境变量

sudo vim /etc/profile
在profile文件最下面添加以下代码:

export MAVEN_HOME=/home/sunbite/apache-maven-3.5.0

export PATH=$MAVEN_HOME/bin:$PATH
保存退出
别忘了source一下
source /etc/profile
最后 验证一下是否安装成功:
mvn -v

3.按照BUILDING.txt安装各种库

sudo apt-get -y install build-essential autoconf automake libtool cmake zlib1g-dev pkg-config

sudo apt-get install snappy libsnappy-dev

sudo apt-get install bzip2 libbz2-dev

sudo apt-get install libjansson-dev

sudo apt-get install fuse libfuse-dev


4.安装protobuf-2.5.0.tar.gz

压缩包网上很多获取方法下一个即可。

(1)解压到/home/sunbite(自己想安装的地方)

tar -zxvf protobuf-2.5.0.tar.gz -C /home/sunbite
(2) 然后进入protobuf-2.5.0文件夹依次执行一下命令
sudo ./configure
sudo make
sudo make check
sudo make install
sudo ldconfig 
(3)配置环境变量

sudo vim /etc/profile
在profile文件最下面添加以下代码:
export LD_LIBRARY_PATH=/home/sunbite/protobuf-2.5.0
保存退出
别忘了source一下
source /etc/profile
最后 验证一下是否安装成功:
protoc --version


5.安装ant

在官网http://ant.apache.org/bindownload.cgi下载

(1)下载apache-ant-1.9.9-bin.tar.gz这个包,然后解压到/home/sunbite(自己想安装的地方)

tar -zxvf apache-ant-1.9.9-bin.tar.gz -C /home/sunbite
(2)配置环境变量
sudo vim /etc/profile
在profile文件最下面添加以下代码:
export ANT_HOME=/home/sunbite/apache-ant-1.9.9
export PATH=$PATH:$ANT_HOME/bin
保存退出
别忘了source一下

source /etc/profile
最后 验证一下是否安装成功:
ant -version


(三)编译hadoop

经过上面的准备工作我们就可以开始编译了。。。
记住要cd到hadoop-2.8.1-src文件夹下进行!

mvn package -Pdist,native -DskipTests -Dtar

在/home/sunbite/hadoop-2.8.1-src/hadoop-dist文件夹下,我们编译好的hadoop-2.8.1.tar.gz就在那里了。。。


写在最后:如果第一次编译,过程会无比痛苦,由于网络原因有可能各种失败,还有可能各种报错。这是我第二次编译了,所以比较顺利,没有遇到特别大麻烦,大家一定耐得住性子。。。

  • 2
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值