Hadoop 版本编译前的准备

本文详细介绍了Hadoop版本编译前的准备工作,包括安装gcc、JAVA、maven、protobuf、cmake等必备软件,以及如何下载Hadoop源代码。特别提到,对于CDH5版本,需使用CDH 5 Maven Repository,并提供了修改pom.xml的指导。此外,文章还概述了Hadoop的主要Maven模块、Maven构建目标以及各种编译选项,如Snappy和OpenSSL的编译设置。
摘要由CSDN通过智能技术生成

安装必备软件

1. 安装 gcc

yum install gcc

2. gcc-c++

yum install gcc-c++

这样可以避免出现问题:Cannot find appropriate C++ compiler on this system

3. JAVA

具体可参考笔者相关博文 Centos6.5 JAVA配置

4. 编译前准备其他Linux安装依赖包

以下可能需要管理者权限

yum install autoconf  automake  libtool  cmake  
yum install ncurses-devel
yum install openssl-devel
yum install lzo-devel  zlib-devel 
yum install ant  make

检查是否安装成功: xxx –version

autoconf (GNU Autoconf) 2.63
automake (GNU automake) 1.11.1
ltmain.sh (GNU libtool) 2.2.6b

5. 安装maven
具体可参考笔者相关博文 Centos6.5 下 Maven 安装

这里笔者要强调一下:有的时候,编译源码,在 Maven 上需要壮士断臂,将 ~/.m2/repository 删除!

rm -rf ~/.m2/repository

6. 安装protobuf

tar -zxvf protobuf-2.5.0.tar.gz
  • 进入protobuf-2.5.0目录,执行下面的命令
./configure
make
make check  
make install

其中 make check 这个步骤非常耗时

  • 检验 protoc –version 看能否出现 libprotoc 2.5.0 信息

7. 安装cmake

 tar -zxvf cmake-2.8.12.2.tar.gz 
  • 进入cmake-2.8.12.2目录,执行下面的命令
./bootstrap
make
make install
  • 通过cmake –version来查看是否安装正常,若为cmake version 2.8.12.2 则ok!

8. 安装autotool

yum install autoconf automake libtool

9. 网上有说可能还需要findingbugs

export FINDBUGS_HOME=/opt/softwares/findbugs-3.0.0
export PATH=$PATH:$FINDBUGS_HOME/bin

10. 确保能上网!!!


下载相应的 hadoop 源代码

这里写图片描述

这里写图片描述

有的版本的 hadoop 天生就有缺陷,可能需要修改某些配置文件,比如 hadoop-2.2.0


CDH5 版本请使用 CDH 5 Maven Repository

将下载好的 hadoop 源码解压了,然后进入解压文件。这里以 hadoop-2.5.0-cdh5.2.0 为例

tar -zxvf hadoop-2.5.0-cdh5.2.0-src.tar.gz 

然后修改内部的 pom.xml 文件

cd hadoop-2.5.0-cdh5.2.0-src
vim pom.xml

添加下列代码:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值