java.io.IOException: Broken pipe

Hadoop Streaming编程: 采用Python脚本来编写map和reduce脚本时必须注意对异常情况的处理,比如:

#!/usr/bin/python
import sys
for eachLine in sys.stdin:
    eachLine = eachLine.strip()
    Seg = eachLine.split('\x01')
    if  Seg[1]=='rpt_visit'and Seg[3] != '':
        ad_id = Seg[3]
        print '%s\t%d' % (ad_id, 1)
    else:
       pass

       以上代码乍看来没有明显问题,但是实际情况中经常出现数据不完整的情况,因此对每一行数据分割之后,在读取数组元素之前,必须先判断数组的长度,否则可能会出现数组越界的异常情况 ,做如下修改,添加长度判断条件:

       #!/usr/bin/python
import sys
for eachLine in sys.stdin:
    eachLine = eachLine.strip()
    Seg = eachLine.split('\x01')
    if  len(Seg) >= 4 and Seg[1]=='rpt_visit'and Seg[3] != '':
        ad_id = Seg[3]
        print '%s\t%d' % (ad_id, 1)
    else:
       pass
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值