PIG--shell脚本

1.PIG主要数据处理语言,他的数据处理过要转化成MR来运行

2.PIG的数据处理语言是数据流方式的,

3.PIG基本数据类型是:int ,long, float , double , chararry(本人感觉他就是string的作用)

复合数据类型:Map , Tuple , Bag

Bag如({('age,31'),('name','张三')})

shell脚本

>pig(进入到pig的命令界面)

*****加载HDFS中的数据转换成pig可以处理的模式

语法:集合名 = LOAD ’HDFS数据源路径‘ AS (属性名:属性类型);//注意用“;”结尾

>A = LOAD '/wlan' as (t0:long,msisdn:chararray,t2:chararray);

****把A中的有用的数据提取出来

语法:集合名= FOREACH A GENERATE ‘属性1’ ,‘属性1’;

>B = FOREACH A GENERATE msisdn , t6 ;

*****分组数据

语法:GROUP B BY '属性名'

> C = GROUP B BY msisdn;

*****数据汇总

注意:分组后,会出现 11111111,{('age,31'),('name','张三')}等数据,其中“11111111”的别名就是用“group”替代

语法:FOREACH C GENERATE group SUM(集合名.属性名);

>FOREACH C GENERATE group, SUM(B.t6), SUM(B.t7), SUM(B.t8), SUM(B.t9);

*******存储到HDFS中

语法:STORE 集合名 into  'HDFS数据源路径'
>STORE D INTO '/wlan_result';

******排序数据

语法:集合名 = order 排序集合名 by 排序属性 ;

>F = order D by group ;



剩下的功能就自己看他内置的帮助文档哦 ^~^


  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值