Pig是这样一个平台,它能够对由高级语言编写的数据 分析程序 组成的大型数据集 进行分析、评估。Pig程序最突出的优势是它的结构能够经受得住高度并行化的检验,这个特性让它能够处理大型的数据集。
目前,Pig的底层由一个编译 器组成,它在运行 的时候会产生一些Map-Reduce程序序列,并且这里大规模的并行执行依然存在(例如,Hadoop 子工程)。当前,Pig的语言层是由一叫做Pig Latin的正文型语言组成,它有如下的特点:
1.易于编程:对于那些简单的并且不易并行的数据分析 任务达并不需要实现并行执行的目标。多重关联的数据转换任务需要明确地被编码成数据流序列,让他们易于被书写、理解和掌握。
2.最优化机会:任务被编码的方式允许系统执行的时候进行自动地优化,这就是说,用户更需要注意的是程序语义的设计而不是效率。
3.扩展性:用户能自定义函数来实现特殊的目的。
Pig当前最新版本为0.7.0
这个版本包含了新的 LoadFunc/StoreFunc接口,Pig本地 模式转换并且修复了许多的漏洞
Pig系列之一:Pig简介
最新推荐文章于 2022-01-05 10:37:15 发布