Ajax动态网页的信息抓取(入门)

本文介绍了如何抓取Ajax动态加载的网页内容,以肯德基门面查询为例,通过开发者工具观察Ajax请求,识别请求参数,特别是页码参数`pageIndex`,并模拟POST请求实现翻页和信息爬取。尽管这是一个简单的案例,但有助于理解Ajax请求的工作原理,为处理更复杂的加密Ajax请求打下基础。
摘要由CSDN通过智能技术生成

背景:
不知道你们在学习网络爬虫过程中是否遇到过这样的问题,那就是在使用requests抓取页面信息的时候,抓取的结果和在浏览器上看到的不一样。浏览器中显示正常的页面数据,但是抓取的却是没有具体数据或者说只是首界面的源码。那就是因为现在很多Web页面的原始HTML页面不会包含任何数据,数据都是通过Ajax统一加载出来再呈现出来的,这样Web就可以做到前后端的分离,而且降低了服务器直接渲染页面带来的压力。举个例子,我们的微博页面,当你一直往下滑的时候内容就加载完了,页面没有刷新,链接也没有变化,但是等待加载圈加载几秒又出现了新的内容,其实这就是Ajax加载的过程。下面我们就从一个入门的案例来实现Ajax数据的抓取,我们模仿requests模拟Ajax请求就可以抓去了。

1.找到我们的目标网站-肯德基的门面查询网址(查询的成都为例):
http://www.kfc.com.cn/kfccda/storelist/index.aspx
首先打开网址然后选择开发者模式,查看network,并勾选preserve log选项,因为Ajax 请求的类型为xhr,故勾选xhr选项,然后刷新就可以看都请求信息。然后拉到页面下方不断选择下一页,会发现新的Ajax请求不断出现:

在这里插入图片描述
2.这样我们就抓取到了很多Ajax请求,这就是新的信息呈现前Javascript向服务器发送的请求,随便点开一个查看详情:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值