Heritrix架构学习笔记(一)

1、抓取起点CrawlOrder

heritrix- 1.12.1 /docs/apidocs目录下可以查看其API

org.archive.crawler.datamodel
Class CrawlOrder

java.lang.Object
       
       
  
      
      
       
         
      
      
      
      
       
          
        
          
      
      javax.management.Attribute
       
       
      
      
      
       
          
        
          
      
      org.archive.crawler.settings.Type
      
      
          
      
      
       
          
        
          
      
      org.archive.crawler.settings.ComplexType
      
      
              
      
      
       
          
        
          
      
      org.archive.crawler.settings.ModuleType
      
      
                  
      
      
       
          
        
          
      
      org.archive.crawler.datamodel.CrawlOrder

从上图可看出,CrawlOrder继承自一系列与属性设置相关的基类。CrawlOrder中的属性,是需要被随时读取和监测的。

说明:一次抓取任务包括许多属性,建议一个任务的方式有很多种,最简单的一种就是根据默认的order.xml来配置。

1)  如何读取order.xml文件中的属性,并创建一个CrawlOrder对象?

org.archive.crawler.settings
Class XMLSettingsHandler

java.lang.Object
       
       
  
      
      
       
          
        
          
      
      org.archive.crawler.settings.SettingsHandler
      
      
      
      
      
       
          
        
          
      
      org.archive.crawler.settings.XMLSettingsHandler
      
      

  Heritrix API提供了这样一个类XMLSettingsHandler,如下所示:

public XMLSettingsHandler(java.io.File orderFile)

                   throws javax.management.InvalidAttributeValueException

XMLSettingsHandler类的父类SettingsHandler定义了下面这个方法:

public CrawlOrder getOrder() {

        return order;

    }

 其可返回一个CrawlOrder的实例。

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值