nutch对网站进行爬去索引中的一些问题

(1)问题:对有些站点出现java.net.UnknownHostException

解决方案:出现这种错误说明对应的url服务器不存在,可以忽略,程序会继续处理其他链接

(2)问题:fetch of http://nc.nursing.sdu.edu.cn/ failed with: java.net.SocketException: Software caused connection abort: recv failed

解决方案:链接不成功,可以忽略,对程序没有影响。

(3)问题:fetch of http://www.kjc.sdu.edu.cn/ failed with: java.net.SocketTimeoutException: connect timed out

解决方案:可以再nutch配置文件中设置延迟时间,也可以忽略这种问题,因为nutch超时的链接,在浏览器中也是返回不了的。

(4)问题:将正常的程序移植到linux下,出现java.net.UnknownHostException问题

java.net.UnknownHostException: www.online.sdu.edu.cn
 at java.net.PlainSocketImpl.connect(PlainSocketImpl.java:195)
 at java.net.SocksSocketImpl.connect(SocksSocketImpl.java:366)
 at java.net.Socket.connect(Socket.java:529)
 at org.apache.nutch.protocol.http.HttpResponse.<init>(HttpResponse.java:97)
 at org.apache.nutch.protocol.http.Http.getResponse(Http.java:64)
 at org.apache.nutch.protocol.http.api.HttpBase.getProtocolOutput(HttpBase.java:225)
 at org.apache.nutch.fetcher.Fetcher$FetcherThread.run(Fetcher.java:640)

解决方案:是dns配置问题,可以通过配置linux下相关网络连接实现

 

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

WitsMakeMen

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值