对于网络爬虫技术的学习,其他教学很少有从整体结构来说的,多数是直接放出某部分代码。这样的方法会使初学者摸不着头脑:就好像是盲人摸象,有人摸到的是象腿,以为是一根大柱子;有人摸到的是大象耳朵,以为是一把大蒲扇等。
本篇讲解的目的,是让大家先对爬虫概念有个比较深入的认识。
一、爬虫的定义
所谓爬虫,就是请求网站并提取自己所需要数据的过程。
通过我们的程序,可以代替我们向服务器发送请求,然后进行批量的数据下载。
二、Python爬虫的流程
网络爬虫的流程其实非常简单,主要可以分为三部分:(1)获取网页;(2)解析网页(提取数据);(3)存储数据。
(1)获取网页就是给一个网址发送请求,该网址会返回整个网页的数据。类似于在浏览器中键入网址并按回车键,然后