Jsoup获取网页源代码不一致的问题

我用狐火浏览器抓取csdn咨讯文章的网页源码,发现得到的结果和在浏览器中看到的不一样。

开始我的代码为:

Document doc = Jsoup.connect("http://www.csdn.net/article/2015-10-21/2825979").get();

后来想到要模拟浏览器的行为,于是查看请求头,添加”User-Agent”请求头,这样得到的源码和网页上的是一样的,最好也添加一些其它的请求头

Document doc = Jsoup.connect("http://www.csdn.net/article/2015-10-21/2825979").header("User-Agent",
                "Mozilla/5.0 (Windows NT 6.3; WOW64; rv:41.0) Gecko/20100101 Firefox/41.0").get();
  • 2
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
1. 爬取网页标题 使用Jsoup.connect()连接到目标网页并使用get()方法获取网页内容。然后使用select()方法选取网页中的标题元素。 ``` Document doc = Jsoup.connect("http://www.example.com/").get(); String title = doc.select("title").text(); System.out.println(title); ``` 2. 爬取网页中的所有链接 使用Jsoup.connect()连接到目标网页并使用get()方法获取网页内容。然后使用select()方法选取网页中的所有链接元素,并遍历每个元素提取链接地址。 ``` Document doc = Jsoup.connect("http://www.example.com/").get(); Elements links = doc.select("a[href]"); for (Element link : links) { String linkUrl = link.attr("href"); System.out.println(linkUrl); } ``` 3. 爬取网页中的图片链接 使用Jsoup.connect()连接到目标网页并使用get()方法获取网页内容。然后使用select()方法选取网页中的所有图片元素,并遍历每个元素提取图片地址。 ``` Document doc = Jsoup.connect("http://www.example.com/").get(); Elements images = doc.select("img[src]"); for (Element image : images) { String imageUrl = image.attr("src"); System.out.println(imageUrl); } ``` 4. 爬取网页中的表格数据 使用Jsoup.connect()连接到目标网页并使用get()方法获取网页内容。然后使用select()方法选取网页中的所有表格元素,并遍历每个元素提取表格数据。 ``` Document doc = Jsoup.connect("http://www.example.com/").get(); Elements tables = doc.select("table"); for (Element table : tables) { Elements rows = table.select("tr"); for (Element row : rows) { Elements cells = row.select("td"); for (Element cell : cells) { String cellText = cell.text(); System.out.println(cellText); } } } ``` 5. 爬取网页中的表单数据 使用Jsoup.connect()连接到目标网页并使用get()方法获取网页内容。然后使用select()方法选取网页中的所有表单元素,并遍历每个元素提取表单数据。 ``` Document doc = Jsoup.connect("http://www.example.com/").get(); Elements forms = doc.select("form"); for (Element form : forms) { String actionUrl = form.attr("action"); String method = form.attr("method"); System.out.println("Action URL: " + actionUrl); System.out.println("Method: " + method); Elements inputs = form.select("input"); for (Element input : inputs) { String name = input.attr("name"); String value = input.attr("value"); System.out.println(name + ": " + value); } } ```

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值