接触Hadoop有些日子了,今天想在ecipse上跑一下MR的wordcount程序。没想到需要了很多莫名其妙的问题,现在汇总一下,希望其他朋友看到不会走弯路。
本地安装的eclipse是3.6.2版本,其实平时是不会去刻意的去看eclipse的版本号,但是hadoop对每个所运行且配合使用的应用都有严格的版本要求,否则会运行不起来。
首先将eclipse插件安装上,我使用的是hadoop-eclipse-plugin-1.0.4.jar这个插件,将该插件放入eclipse的plugins文件夹下,然后启动eclipse。
这里具体的操作,不一一详述,网上有很多该方面的文档。
着重的说一下我遇到的两个问题:
第一:将所有的配置都连接好以后,运行run as,发现console报了一个错误。
由于该部分是apche的configuration,因此需要引入相关几个比较重要的jar包。
commons-configuration-1.6.jar
commons-httpclient-3.0.1.jar
commons-lang-2.4.jar
jackson-core-asl-1.0.1.jar
jackson-mapper-asl-1.0.1.jar
commons-cli-1.2.jar
第二:
当引入了以上jar包后,再次进行run as操作时,会再次出现如下错误。
据了解,该问题为hadoop 0700 bug,在csdn上看到有人已经放出该部分的问题解决,用以替代之前引入的hadoop-core-xxx.jar,即可解决,至于是不是bug,有待商榷。
为了尊重他人的劳动成果,本人仅将解决该问题的下载地址贴出,就不做上传了。
以上是本人所遇到的两个问题,用以总结,希望可以帮到其他人。