Java中通过反射方式获取当前输入分片的对应的文件路径

我们可以通过如下方式获取当前输入分片的文件路径:

在mapper运行的时候,可以用如下的方法得到对应的filesplit,也就能拿到对应的"输入路径"等信息

FileSplit fileSplit = (FileSplit)(reporter.getInputSplit()); 	// hadoop1.x

FileSplit fileSplit = (FileSplit)(context.getInputSplit());		// hadoop2.x

String fileName = fileSplit.getPath().toUri().getPath();

如果报出一个类型转换错误(我们公司目前使用的是基于hadoop1.x的MapReduce):
java.lang.ClassCastException: org.apache.hadoop.mapred.TaggedInputSplit cannot be cast to org.apache.hadoop.mapred.FileSplit

解决办法及原理:
问题原因:
我们需要的filesplit实际上就是TaggedInputSplit中的成员变量inputSplit
然而TaggedInputSplit这个类在社区版中并不是public的,所以我们并不能直接直接拿到对应的信息

解决办法:
通过反射来获得TaggedInputSplit中的inputSplit:

		InputSplit inputSplit = reporter.getInputSplit();
		Class<? extends InputSplit> splitClass = inputSplit.getClass();
		FileSplit f
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值