利用页面分析获取json数据

本文通过实例讲述了如何在Java中分析网页并获取JSON数据。在遇到网站使用AJAX异步加载数据时,通过F12开发者工具定位请求,找到数据提交的URL和参数,构造请求并获取JSON响应,从而实现数据抓取。
摘要由CSDN通过智能技术生成

今天项目需要抓取车次信息,开始用jsoup访问制定的url,发现返回的只是静态页面,没有查询的数据。原来网站为了防止别人爬取数据,采用ajax异步加载数据。网上搜到的API接口要收费,后来发现可以页面分析找到数据真正的提交地址。这里以在某网站,查询济南到上海8月13号的火车信息为例说明。在某网站按F12,查询,可以抓取很多信息。点XHR看到很多get和post信息。


从第一个开始找(如果有更好的工具,可以直接找到post数据),点开发现response就是需要的数据,然后查看headers选项,找到提交的网址和值。


评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值