- 博客(2)
- 资源 (3)
- 收藏
- 关注
转载 Hadoop map reduce 过程获取环境变量
Hadoop map reduce 过程获取环境变量 Hadoop任务执行过程中,在每一个map节点或者reduce节点能获取一下环境变量,利用这些变量可以为特殊的需求服务,例如:获取当前map节点处理的数据文件的路径。 hadoop是java实现的,利用java可以很方便的获取相关环境变量,其内部包含在Context和MRJobConfig中(hadoop版本不一样,可能会有
2013-11-28 17:30:02 784
转载 python hadoop 在streaming中获取文件名的方法 (参考java )适用: MRjob
python hadoop 在streaming中获取文件名的方法 (参考java )适用: MRjob 分类: python hadoop2013-11-06 11:46 207人阅读 评论(2) 收藏 举报 hadoopmrjobpythonstreamingfilename 在hadoop的开发中,经常要根据streaming中不同的文件名做不同的处理,需要获取文件
2013-11-27 19:05:11 828
db2导入文本数据的方法
2010-12-22
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人