网络爬虫学习笔记(一) 网络爬虫概述

1 什么是网络爬虫

网络爬虫（又被称为网页蜘蛛，网络机器人，在FOAF社区中间，更经常的称为网页追逐者），是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。

上面是百度百科的定义,网络爬虫其实就是指,在现有的互联网中,各个终端设备间构造成了一个像蜘蛛网络一样的东西,程序通过一定的逻辑或者是自定义的方式访问每个节点的数据，这段程序被称作为网络爬虫。

2 网络爬虫的基本结构

爬虫的基本结构框架流程图如下：

网络爬虫的基本框架如下:

1 首先需要一个已知的种子url库
2 读取已知的种子url集合到带抓取集合中
3 抓取线程读取带抓取集合中的种子url,进行抓取解析
4 将解析到的结果存储到指定的位置中
5 将抓取过的url插入到已抓取的队列中

3 网络爬虫的抓取策略

1 宽度优先遍历策略

宽度优先遍历策略是最简单的遍历方式,爬虫通过抓取种子url,解析到需要的链接地址后,将这个链接地址直接添加到带抓取的url队列中

具体的抓取顺序为: A -> B -> C -> D -> E -> F

2 深度优先遍历策略

深度优先遍历策略主要是通过抓取种子url后,对新抓到的链接地址立即进行抓取,知道