猛禽的编程艺术

编程是一门艺术

用gcrawler进行多级页面并发下载的例子

基本的思路就是scheduler生成器在生成完所有urls以后继续等待下一步的解析结果,然后继续将解析结果生成返回。在worker方法里则增加一个解析方法调用,然后把返回的结果能过类成员传递给scheduler。这样包括下一级页面在内的所有链接都可以通过并发的方式下载了。

2011-04-07 18:15:00

阅读数 4554

评论数 1

提示
确定要删除当前文章?
取消 删除