Webcollector 判定爬虫结束

本人使用的版本是  webcollector-2.40-beta-bin

下载地址↓↓↓↓↓↓↓↓

WebCollector爬虫官网https://github.com/CrawlScript/WebCollector

国内镜像http://git.oschina.net/webcollector/WebCollector

使用教程:http://blog.csdn.net/ajaxhu/article/details/38406687

大部分使用教程 官方已给出,本人在使用后发现一些问题无法搜索得到解决方案,经尝试后特此写下文章记录。

由于本人使用过程中需要判定是否爬虫结束,间隔一定时间后重复爬虫,经过尝试发现解决办法。

import cn.edu.hfut.dmic.webcollector.model.CrawlDatums;
import cn.edu.hfut.dmic.webcollector.model.Page;
import cn.edu.hfut.dmic.webcollector.plugin.berkeley.BreadthCrawler;

public class TutorialCrawler extends BreadthCrawler {

    public TutorialCrawler(String crawlPath, boolean autoParse) {
        super(crawlPath, autoParse);
    }

    /*
        可以往next中添加希望后续爬取的任务,任务可以是URL或者CrawlDatum
        爬虫不会重复爬取任务,从2.20版之后,爬虫根据CrawlDatum的key去重,而不是URL
        因此如果希望重复爬取某个URL,只要将CrawlDatum的key设置为一个历史中不存在的值即可
        例如增量爬取,可以使用 爬取时间+URL作为key。

        新版本中,可以直接通过 page.select(css选择器)方法来抽取网页中的信息,等价于
        page.getDoc().select(css选择器)方法,page.getDoc()获取到的是Jsoup中的
        Document对象,细节请参考Jsoup教程
    */
    @Override
    public void visit(Page page, CrawlDatums next) {
        if (page.matchUrl("http://blog.csdn.net/.*/article/details/.*")) {
            String title = page.select("div[class=article_title]").first().text();
            String author = page.select("div[id=blog_userface]").first().text();
            System.out.println("title:" + title + "\tauthor:" + author);
        }
    }

    public static void main(String[] args) throws Exception {
        TutorialCrawler crawler = new TutorialCrawler("crawler", true);
        crawler.addSeed("http://blog.csdn.net/.*");
        crawler.addRegex("http://blog.csdn.net/.*/article/details/.*");

        /*可以设置每个线程visit的间隔,这里是毫秒*/
        //crawler.setVisitInterval(1000);
        /*可以设置http请求重试的间隔,这里是毫秒*/
        //crawler.setRetryInterval(1000);

        crawler.setThreads(30);
        crawler.start(2);
    }

}
以上代码引用自 使用教程

public static void main(String[] args) throws Exception {
        TutorialCrawler crawler = new TutorialCrawler("crawler", true);
        crawler.addSeed("http://blog.csdn.net/.*");
        crawler.addRegex("http://blog.csdn.net/.*/article/details/.*");

        /*可以设置每个线程visit的间隔,这里是毫秒*/
        //crawler.setVisitInterval(1000);
        /*可以设置http请求重试的间隔,这里是毫秒*/
        //crawler.setRetryInterval(1000);

        crawler.setThreads(30);
        crawler.start(2);
	/*爬虫开始阻塞*/
	while(crawler.isResumable()){	
	}
	/*爬虫结束后输出*/
	System.out.println("finish");
}

 

BreadthCrawler类中isResumable方法是判定爬虫是否运行中 是返回true 否返回fasle;

©️2020 CSDN 皮肤主题: 大白 设计师:CSDN官方博客 返回首页