输入
- 类FileInputFormat
FileInputFormat是所有使用文件作为数据源的InputFormat实现的基类。
1,1基本的输入
通过addInputPath(s)和setInputPath(s)四种静态方法设置输入路径。
1,2有选择的输入
如果需要排除特定文件,可以使用setInputPathFilter()方法设置一个过滤器。
注:FileInputFormat会使用一个默认的过滤器来排除隐藏文件(名称中以“.”和“_”开头的文件)。如果通过调用setInputPathFilter()设置过滤器,将会在默认过滤器的基础上进行过滤。
1,3类FileInputFormat的输入分片
分片的大小计算公式:max(minimumSize,min(maximumSize,blockSize))。
默认情况下:maximumSize=Long.Max_Value
MinimumSize=1
MinimuSize < blockSize < maximumSize
因此,分片的大小=blockSize
1,4避免切分输入文件
方法一:增加最小分片大小minimumSize,使其大于要处理的最大文件的大小。
方法二:使用FileInputFormat的具体子类,并冲在isSplitable(),将返回值设为false。例子如下。
public class NonSplittableTextInputFormat extends TextInputFormat{
@override
protected boolean isSplitable(FileSystem fs, Path file){
return false;
}
}
- 类TextInputFormat(默认的InputFormat)
每条记录是一行输入。Key:LongWritable,存储该行在当前分片中的字节偏移量;Val:这行的内容,不包括行终止符(换行符和回车符)
- 类KeyValueTextInputFormat
Hadoop默认的输出时TextOutputFormat,由\t分隔。使用该类,可以直接确定key和val。可以通过key.value.separator.in.input.line属性来指定分隔符,默认是\t。
- 类SequenceFileInputFormat
该类不仅可以读SequenceFile,而且可以读MapFile。如果在处理顺序文件时遇到目录,则会自动认为正在读MapFile,使用的是其数据文件。
- 多种输入MultipleInputs
如果需要同时对多种的数据源进行处理,可以使用MultipleInputs,并可以设置每个数据源的Map处理函数。例子如下:
MultipleInputs.addInputPath(conf, dataset1,TextInputFormat.class,MyMapper1.class);
MultipleInputs.addInputPath(conf, dataset2,TextInputFormat.class,MyMapper2.class);
其中,dataset1和dataset2的数据都是文本文件,所以两者都使用TextInputFormat,但是他们的行格式不同,所以指定了两个Mapper。但是需要注意,两个Mapper的输出类型必须一样,因此reduce看到的是聚集后的map输出。
该类还有一个重载版本的addInputPath()方法,它没有mapper参数,如果有多种输入格式而只有一个mapper,可以直接使用该重载方法,并在main中用setMapperClass指定Mapper。
<!--[if !supportLists]-->六、<!--[endif]-->数据库输入(数据库和HBase),类DBInputFormat
输出
- 类TextOutputFormat
这是默认的输出格式。
可以通过设置mapred.textoutputformat.separator属性改变默认的分隔符。与TextOutputFormat对应的输入格式是KeyValueTextInputFormat。
- 类SequenceFileOutputFormat
- 类MapFileOutputFormat
该类把MapFile作为输出。MapFile中的键必须顺序添加,因此必须确保reducer输出的键已经排好序。
- 类MultipleOutputFormat和类MultipleOutput(多个输出)
4,1 MultipleOutputFormat是个抽象类,有两个实体子类:MultipleTextOutputFormat和MultipleSequenceFileOutputFormat类。该抽象类提供了一些子类覆盖来控制输出文件名的Protected方法。例子如下:
static class MyMultipleOut extends MultipleTextOutFormat<NullWritable,Text>{
//NullWritable,Text为输出的key和val类型
Protected String generateFileNameForKeyValue(NullWritable key, Text value, String name){
//返回的文件名是相对于输出路径的。
return parse(value);
}
}
最后,在main中设置setOutputFormat(MyMulitpleOut.class)。
MultipleOutputFormat还有很多特性,如为只有map的作业进行复制输入目录结构和文件命名等能力。
4,2 MultipleOutputs
注意:MultipleOutputs只能包含字母字符。具体用法参见《hadoop权威指南》P221.
注:在新版的MapReduceAPI中,只有MultipleOutputs,它支持这两种多输出类的所有特征。
- 数据库输出(数据库和HBase)