阅读文本大概需要 5 分钟。
工欲善其事必先利其器的道理相信大家都懂。而作为经常要和各大网站做拉锯战的爬虫工程师们,则更需要利用好身边的一切法器,以便更快的攻破对方防线。今天我就以日常爬虫流程,给大家介绍十款工具,相信大家掌握之后,必定能够在工作效率上,提升一个量级。
爬虫第一部做什么?当然是目标站点分析
1、Chrome
Chrome属于爬虫的基础工具,一般我们用它做初始的爬取分析,页面逻辑跳转、简单的js调试、网络请求的步骤等。我们初期的大部分工作都在它上面完成,打个不恰当的比喻,不用Chrome,我们就要从智能时代倒退到马车时代。
同类工具: Firefox、Safari、Opera
2、Charles
Charles与Chrome对应,只不过它是用来做App端的网络分析,相较于网页端,App端的网络分析较为简单,重点放在分析各个网络请求的参数。当然,如果对方在服务端做了参数加密,那就涉及逆向工程方面的知识,那一块又是一大箩筐的工具,这里暂且不谈。
同类工具:Fiddler、Wireshark、Anyproxy
接下来,分析站点的反爬虫
3、cUrl
维基百科这样介绍它:
cURL是一个利用URL语法在命令行下工作的文件传输工具,1997年首次发行。它支持文件上传和下载,所以是综合传输工具,但按传统,习惯称cURL为下载工具。cURL还包含了用于程序开发的libcurl。
在做爬虫分析时,我们经常要模拟一下其中的请求,这个时候如果去写一段代码,未免太小题大做了,直接通过Chrome拷贝一个cURL,在命令行中跑一下看看结果即可,步骤如下: