hadoop编译源码_学习笔记

Hadoop编译源码

1.前期准备工作

1. CentOS联网 配置CentOS能连接外网。Linux虚拟机ping www.baidu.com 是畅通的注意：采用root角色编译，减少文件夹权限出现问题
2. jar包准备(hadoop源码、JDK8、maven、ant 、protobuf)
   （1）hadoop-2.7.2-src.tar.gz
   （2）jdk-8u144-linux-x64.tar.gz
   （3）apache-ant-1.9.9-bin.tar.gz（build工具，打包用的）
   （4）apache-maven-3.0.5-bin.tar.gz
   （5）protobuf-2.5.0.tar.gz（序列化的框架）

2.jar包安装

1. JDK解压、配置环境变量 JAVA_HOME和PATH，验证java-version(如下都需要验证是否配置成功)
2. Maven解压、配置 MAVEN_HOME和PATH
3. ant解压、配置 ANT _HOME和PATH
4. 安装 glibc-headers 和 g++ 命令如下
   [root@hadoop101 apache-ant-1.9.9]# yum install glibc-headers
   [root@hadoop101 apache-ant-1.9.9]# yum install gcc-c++
5. 安装make和cmake
   root@hadoop101 apache-ant-1.9.9]# yum install make
   [root@hadoop101 apache-ant-1.9.9]# yum install cmake
6. 解压protobuf ，进入到解压后protobuf主目录，/opt/module/protobuf-2.5.0，然后相继执行命令
7. 安装openssl库
   [root@hadoop101 software]#yum install openssl-devel
8. 安装 ncurses-devel库[root@hadoop101 software]#yum install ncurses-devel

4.编译源码

1. 解压源码到/opt/目录
   [root@hadoop101 software]# tar -zxvf hadoop-2.7.2-src.tar.gz -C /opt/
2. 进入到hadoop源码主目录
   [root@hadoop101 hadoop-2.7.2-src]# pwd
   /opt/hadoop-2.7.2-src
3. 通过maven执行编译命令
   [root@hadoop101 hadoop-2.7.2-src]#mvn package -Pdist,native -DskipTests -Dtar
4. 成功的64位hadoop包在/opt/hadoop-2.7.2-src/hadoop-dist/target下[root@hadoop101 target]# pwd/opt/hadoop-2.7.2-src/hadoop-dist/target

常见错误及解决方案（略