爬虫的基本流程

网络爬虫的基本工作流程如下:

1. 首先选取一部分精心挑选的种子URL;
2. 将这些URL放入待抓取URL队列;
3. 从待抓取URL队列中取出待抓取在URL，解析DNS，并且得到主机 的 ip，并将 URL 对应的网⻚下载下来，存储进已下载网⻚库中。此 外，将 这些 URL 放进已抓取 URL 队列。
4. 分析已抓取URL队列中的URL，分析其中的其他URL，并且将URL 放入 待抓取 URL 队列，从而进入下一个循环…