java/android抓取网页(含js)内容…

本文详细介绍了如何使用Java抓取网页原始数据以及通过模拟JS请求获取网页内容。首先展示了如何抓取IP查询网站的结果,然后通过HTTP Analyzer工具分析并模拟JS请求,获取网页中通过JavaScript动态加载的内容,以快递跟踪信息为例进行演示。
摘要由CSDN通过智能技术生成

原文链接:http://blog.csdn.net/zgyulongfei/article/details/7909006

有时候由于种种原因,我们需要采集某个网站的数据,但由于不同网站对数据的显示方式略有不同!

本文就用Java给大家演示如何抓取网站的数据:(1)抓取原网页数据;(2)抓取网页Javascript返回的数据。

一、抓取原网页。

这个例子我们准备从http://ip.chinaz.com上抓取ip查询的结果:

第一步:打开这个网页,然后输入IP:111.142.55.73,点击查询按钮,就可以看到网页显示的结果:




第二步:查看网页源码,我们看到源码中有这么一段:



从这里可以看出,查询的结果,是重新请求一个网页之后显示的。

再看看查询之后的网页地址:

也就是说,我们只要访问形如这样的网址,就可以得到ip查询的结果,接下来看代码:

  1. public void captureHtml(String ip) throws Exception  
  2.     String strURL "http://ip.chinaz.com/?IP=" ip;  
  3.     URL url new URL(strURL);  
  4.     HttpURLConnection httpConn (HttpURLConnection) url.openConnection();  
  5.     InputStreamReader input 
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值