猛禽的编程艺术

原创 用gcrawler进行多级页面并发下载的例子

基本的思路就是scheduler生成器在生成完所有urls以后继续等待下一步的解析结果，然后继续将解析结果生成返回。在worker方法里则增加一个解析方法调用，然后把返回的结果能过类成员传递给scheduler。这样包括下一级页面在内的所有链接都可以通过并发的方式下载了。