在Eclipse中调试运行Nutch

昨天花了一天时间都没有搞定Nutch(nutch 0.8版本)。今天终于在同学提示下搞定了。总结一下这个恶心的东西,免得其他同志们再浪费宝贵的生命。

注意你遇到问题肯定都是配置问题,不可能是源程序的问题,要不然nutch就肯定运行不了了。通常在控制台运行nutch是没有问题的。至于具体的运行Crawl参考: nutch 0.8 tutorial。关键的配置有conf下面的nutch-site.xml, hadoop-site.xml。其中nutch-site.xml和had-oop-site.xml里面的设置分别覆盖nutch-default.xml和hadoop-default.xml里面的值。

1、首先参考官方网站的导入操作(如果不是很熟悉的话一定要参考,免得浪费时间),详见: RunNutchInEclipse,注意按照这种方式导入的时候会将所有的jar都添加到classpath底下。我个人觉得nutch-0.8.1.jar需要移除,其实这个就是所有源文件打成了分发的jar包。
2、删除src/test源代码下面的nutch-site.xml。否则在运行的时候会加载多个nutch-site.xml,而你不修改所有的nutch-site.xml的话,天知道它到底加载了哪一个。nutch的开发者也是很搞笑,故意在test地下放这个文件,让大家犯错。可是浪费哥一天的时间啊,当然也是技术不过关了,居然还是没有发现这个错误。
3、按照官方文档运行Crawl,如果运行还是没有结果的话,那就是要在nutch-site.xml的configuration下增加一个http.agent.name节点:
<property>
  <name>http.agent.name</name>
  <value>test</value>
</property>
其实这个信息是在tutorail里面有说到的。
按照上面三个步骤来做的话照理来说是没有问题了。

我还遇到一个问题就是,我在Linux服务器上只是普通用户,所以运行nutch的时候还会出现这么一个错误:“没有对什么/tmp/……文件夹的权限操作”。最简单的解决办法就是跟管理员说提升权限为root了。如果这个不行的话,那就有一个更好的方法:修改hadoop-site。怎么修改呢?首先在hadoop-0.4.0-patched.jar下可以找到hadoop-default.xml,打开这个文件,然后将里面对应设置成/tmp/……值得属性全部拷贝出来,然后将它们粘贴到hadoop-site.xml里面,将值全部设成你有权限的文件夹就可以了。这个方法照理来说是可以的,如果还是不行的话,那就直接把hadoop-default.xml里面的值修改掉好了,具体方法是将该文件解压出来(不会?直接用解压管理器就好了),然后修改相应的值,接着再添加进去,就可以覆盖掉原来的。

问题就这些吧,记住一定是配置问题。在运行过程中出现问题的话,首先要看看哪些配置文件加载了,如果好几个相同名字的配置文件加载了,最好把多余的去掉,因为你无法确定类加载器到底加载了那个配置。

其实我觉得nutch的开发者还是没有做到周详,怎么可以在src/test下面也加一个nutch-site.xml呢。
<script type="text/javascript"> </script> <script type="text/javascript" src="http://pagead2.googlesyndication.com/pagead/show_ads.js"> </script>
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
nutch javax.net.ssl.sslexception : could not generate dh keypair 是一个SSL异常,意味着Nutch无法生成DH密钥对。 TLS(Transport Layer Security)是一种加密协议,用于保护在网络上进行的通信。在TLS握手期间,服务器和客户端会协商加密算法和生成共享密钥对。 DH(Diffie-Hellman)密钥交换是TLS协议常用的一种加密算法。它允许服务器和客户端在不直接传递密钥的情况下,通过交换公钥来生成共享密钥。 nutch javax.net.ssl.sslexception : could not generate dh keypair 错误意味着Nutch无法生成DH密钥对。这可能是由于以下几个原因导致的: 1. Java安全性策略限制:Java默认情况下,限制了密钥长度。您可以尝试通过修改Java安全性策略文件来解决此问题。 2. 加密算法不受支持:您使用的Java版本可能不支持所需的加密算法。您可以尝试升级到较新的Java版本。 3. 随机数生成器问题:DH密钥对需要使用随机数生成器生成随机数。但是,如果随机数生成器不可用或出现故障,就会出现此错误。您可以尝试重新配置随机数生成器或更换可靠的实现。 4. SSL证书问题:此错误可能是由于证书问题引起的。您可以检查证书是否过期或不匹配,并尝试更新或更换证书。 针对这个错误,您可以逐一排查上述情况,并尝试相应的解决方法来解决该问题。如果问题仍然存在,您可能需要进一步的调查和故障排除来确定准确的原因并解决问题。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值