Hadoop与workflow入门

本文介绍了Hadoop MapReduce的基本流程,包括输入分片、Mapper类的map方法、Reducer的处理以及Hadoop的配置参数。同时,概述了workflow.xml的控制流和操作流概念,讲解了start、end、kill、decision、fork节点的作用,并提到了workflow中的多种操作动作。最后,简要提及了Hadoop Shell命令的学习。
摘要由CSDN通过智能技术生成

1、学习hadoop MapReduce流程:

        (1)使用split对输入文件进行分片,每个分片作为一个map任务。注意,输入分片存储的 并非数据本身,而是一个分片长度和一个记录数据的位置的数组。分片的大小由block决定(当第n块大小大于实际文件大小时,按照实际文件大小占用空间。)

       (2)对切分完的输入按照一定的规则解析成(k,v)对。

      (3)调用Mapper类中的map()方法,对第二步解析出来的(k,v)对进行操作。这也是我们需要实现真正逻辑的地方。每调用一次map()方法,就会输出0个或1个或多个(k,v)对。

        小知识:Hadoop 2.x默认的block大小是128MB,Hadoop 1.x默认的block大小是64MB,可以在hdfs-site.xml中设置dfs.block.size,注意单位是byte。分片大小范围可以在mapred-site.xml中设置,mapred.min.split.size mapred.max.split.size,minSplitSize大小默认为1B,maxSplitSize大小默认为Long.MAX_VALUE = 9223372036854775807。

                       public class AccessLogsMapper extends Mapper<Object, Text, Text, Text> {

  private

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值