补上那天没有写的技术细节(about nutch)

本来那天要写的,但是因为要准备考试,所以就没有写了,呵呵,今天补上

那天完成了nutch-0。7。2在federa 4上的按照和部署,并且成功的完成了5个大的网站(sohu,163,21cn,scut,gdsq)的抓取、索引、搜索等功能, 中途遇到一个问题,就是关于怎么设置搜索时间的问题,我抓取gdsq的时候总是抓取不成功,我估计就是它的服务器响应比较慢超过了预先设置的时间,所以就一直都获取不到网页,估计应该在配置文件里面修改,这个今天晚上去解决。还有一个问题,假设我已经搜索了几个站点,保存在文件A里面,现在又搜索了几个站点,保存在文件B里面,怎么把这些站点合并,以便提供同一的服务呢?这个也要再研究下。

      作为我工作基础的搜索部分肯定就这样子是不行的了,还需要看懂代码,然后再添加很多东西。具体日后再说。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值