爬虫不仅仅只对 Web 页面的信息进行爬取,还可以爬取应用中存在的大量数据,例如移动端的 App。由于 App 中的数据都是通过异步的方式从后台服务器中获取的,类似于 Web 中的 Ajax 请求,所以在爬取数据前同样需要分析 App 用于获取数据的 URL。
由于 App 运行在手机或平板电脑中,在获取请求地址时无法像 Web 一样在 PC 端通过浏览器进行获取。所以就需要使用专业的抓包工具,实现 App 请求地址的抓取工作。本篇博文将介绍如何使用 Charles 抓包工具获取 App 中的请求地址。
一、Charles 工具的下载与安装
可以实现 App 抓包的工具有很多,例如, Charles、Fiddler、mitmproxy 等。不过从性能的角度来讲,Charles 的功能更加强大一些。Charles 抓包工具是收费软件,但可以免费试用 30 天。点击 此处 打开 Charles工具的官方下载页面,Charles 是一个跨平台网络抓包工具,支持 Windows、Mac 和 Linux 平台,读者可以根据自己的操作系统下载对应的版本即可。这里以 Windows 系统为例进行演示,如下图所示。
下载完成后,本地磁盘中将出现名称为 charles-proxy-4.6.1-win64.msi
的安装文件,双击该文件将显示如图所示的欢迎对话框,在该对话框中直接单击 Next 按钮。