我们可以通过如下方式获取当前输入分片的文件路径:
在mapper运行的时候,可以用如下的方法得到对应的filesplit,也就能拿到对应的"输入路径"等信息
FileSplit fileSplit = (FileSplit)(reporter.getInputSplit()); // hadoop1.x
FileSplit fileSplit = (FileSplit)(context.getInputSplit()); // hadoop2.x
String fileName = fileSplit.getPath().toUri().getPath();
如果报出一个类型转换错误(我们公司目前使用的是基于hadoop1.x的MapReduce):
java.lang.ClassCastException: org.apache.hadoop.mapred.TaggedInputSplit cannot be cast to org.apache.hadoop.mapred.FileSplit
解决办法及原理:
问题原因:
我们需要的filesplit实际上就是TaggedInputSplit中的成员变量inputSplit
然而TaggedInputSplit这个类在社区版中并不是public的,所以我们并不能直接直接拿到对应的信息
解决办法:
通过反射来获得TaggedInputSplit中的inputSplit:
InputSplit inputSplit = reporter.getInputSplit();
Class<? extends InputSplit> splitClass = inputSplit.getClass();
FileSplit f