爬虫不仅仅只对 Web 页面的信息进行爬取,还可以爬取应用中存在的大量数据,例如移动端的 App。由于 App 中的数据都是通过异步的方式从后台服务器中获取的,类似于 Web 中的 Ajax 请求,所以在爬取数据前同样需要分析 App 用于获取数据的 URL。
由于 App 运行在手机或平板电脑中,在获取请求地址时无法像 Web 一样在 PC 端通过浏览器进行获取。所以就需要使用专业的抓包工具,实现 App 请求地址的抓取工作。本篇博文将介绍如何使用 Charles 抓包工具获取 App 中的请求地址。
一、Charles 工具的下载与安装
可以实现 App 抓包的工具有很多,例如, Charles、Fiddler、mitmproxy 等。不过从性能的角度来讲,Charles 的功能更加强大一些。Charles 抓包工具是收费软件,但可以免费试用 30 天。点击 此处 打开 Charles工具的官方下载页面,Charles 是一个跨平台网络抓包工具,支持 Windows、Mac 和 Linux 平台,读者可以根据自己的操作系统下载对应的版本即可。这里以 Windows 系统为例进行演示,如下图所示:
本文详细介绍了如何使用抓包工具 Charles 进行 App 抓包,包括 Charles 的下载安装、SSL 证书安装、PC 和手机端的设置,以及如何通过 Charles 实现 App 请求的抓取和分析。通过实例展示了如何模拟请求并修改数据,适用于爬虫开发者和移动应用测试人员。
订阅专栏 解锁全文
1万+

被折叠的 条评论
为什么被折叠?



