Hadoop入门进阶课程7--Pig介绍、安装与应用案例

1 搭建环境

部署节点操作系统为CentOS，防火墙和SElinux禁用，创建了一个shiyanlou用户并在系统根目录下创建/app目录，用于存放Hadoop等组件运行包。因为该目录用于安装hadoop等组件程序，用户对shiyanlou必须赋予rwx权限（一般做法是root用户在根目录下创建/app目录，并修改该目录拥有者为shiyanlou(chown –R shiyanlou:shiyanlou /app）。

Hadoop搭建环境：

• 虚拟机操作系统： CentOS6.6 64位，单核，1G内存
• JDK：1.7.0_55 64位
• Hadoop：1.1.2

2 Pig介绍

Pig是yahoo捐献给apache的一个项目，使用SQL-like语言，是在MapReduce上构建的一种高级查询语言，把一些运算编译进MapReduce模型的Map和Reduce中。Pig 有两种运行模式： Local 模式和 MapReduce 模式
- 本地模式：Pig运行于本地模式，只涉及到单独的一台计算机
- MapReduce模式：Pig运行于MapReduce模式，需要能访问一个Hadoop集群，并且需要装上HDFS

Pig的调用方式：
- Grunt shell方式：通过交互的方式，输入命令执行任务；
- Pig script方式：通过script脚本的方式来运行任务；
- 嵌入式方式：嵌入java源代码中，通过java调用来运行任务。

3 搭建Pig环境

3.1 下载并解压安装包

在Apache下载最新的Pig软件包，点击下载会推荐最快的镜像站点，以下为下载地址：

http://mirrors.aliyun.com/apache/pig/