Jsoup获取绝对href+select用法

罗汉翔

已于 2022-06-14 11:04:51 修改

阅读量1.2k

点赞数 1

分类专栏：网络安全文章标签： jsoup

于 2022-04-18 14:05:05 首次发布

原文链接：https://blog.csdn.net/zhangconglin/article/details/50483733

版权

网络安全专栏收录该内容

16 篇文章 1 订阅

订阅专栏

参考链接：

https://blog.csdn.net/weixin_34123613/article/details/92968574

处理URLs

问题

你有一个包含相对URLs路径的HTML文档，需要将这些相对路径转换成绝对路径的URLs。

方法

在你解析文档时确保有指定base URI，然后
使用 abs: 属性前缀来取得包含base URI的绝对路径。代码如下：

Document doc = Jsoup.connect("http://www.open-open.com").get();
Document doc = Jsoup.parse(html, domain);//用jsoup解析形参html，并用形参domain对后续提取的相对地址链接进行补全操作  

String title = doc.select("title").text();

Elements elements = doc.select("[href],[src]");
Element element= doc.select("a").first(); 

if (element.hasAttr("href")) {
    String relHref = element.attr("href");     相对地址
    String absHref = element.attr("abs:href"); 绝对地址
    String href= element.absUrl("href");       绝对地址
}

if (element.hasAttr("poster")) {
    String poster= element.attr("poster");      相对地址
    String poster= element.attr("abs:poster");  绝对地址
}
if (element.hasAttr("src")) {
    String src= element.attr("src");      相对地址
    String src= element.attr("abs:src");  绝对地址
}

说明

在HTML元素中，URLs经常写成相对于文档位置的相对路径： <a href="/download">...</a>. 当你使用 Node.attr(String key) 方法来取得a元素的href属性时，它将直接返回在HTML源码中指定定的值。

假如你需要取得一个绝对路径，需要在属性名前加 abs: 前缀。这样就可以返回包含根路径的URL地址attr("abs:href")

因此，在解析HTML文档时，定义base URI非常重要。

如果你不想使用abs: 前缀，还有一个方法能够实现同样的功能 Node.absUrl(String key)。

jsoup中select用法详解

【准备工作】

下载：jsoup-1.6.1.jar

【先看效果】

目标网站：中国天气

目的：获取今天的天气

目标HTML代码：

<li class="dn on" data-dn="7d1">
  <h1>今天</h1>
  <h2>8日</h2>
  <big class="jpg50 d04"></big>
  <big class="jpg50 n04"></big>    
  <p class="wea" title="雷阵雨">雷阵雨</p>
  <p class="tem tem1"> <span>33</span><i>°C</i> </p>
  <p class="tem tem2"> <span>25</span><i>°C</i> </p>
  <p class="win">
    <em>
      <span title="无持续风向" class=""></span>
      <span title="无持续风向" class=""></span>
    </em>
    <i>微风</i>
  </p>
  <div class="slid"></div>
</li>

解析的java代码：

（1）审查网页元素后发现，我们要的内容在上面的目标HTML代码中，在整个网页中是在 class="dn on" data-dn="7d1" 的 <li> 中

（2）“今天” 两字在 <h1></h1> 中

（3）“8日” 两字在 <h2></h2> 中

（4）“雷阵雨” 三字在 class="wea" 中

（5）“33” 在第一个 <span> 中

（6）“25” 在第二个 <span> 中

（7）“微风” 两字在第三个 <i> 中

有了上面的分析，要获取到这些天气内容就易如反掌了。如下java代码：

 package com.zjm.www.test;
 import java.io.IOException;
 import org.jsoup.Jsoup;
 import org.jsoup.nodes.Document;
 import org.jsoup.select.Elements;
 
 public class TestJsoup {
     
     public  Document getDocument (String url){
         try {
             return Jsoup.connect(url).get();
         } catch (IOException e) {
             e.printStackTrace();
         }
         return null;
     }
 
     public static void main(String[] args) {
         TestJsoup t = new TestJsoup();
         Document doc = t.getDocument("http://www.weather.com.cn/html/weather/101280101.shtml");
         // 获取目标HTML代码
         Elements elements1 = doc.select("[class=dn on][data-dn=7d1]");
         // 今天
         Elements elements2 = elements1.select("h1");
         String today = elements2.get(0).text();
         System.out.println(today);
         // 几号
         Elements elements3 = elements1.select("h2");
         String number = elements3.get(0).text();
         System.out.println(number);
         // 是否有雨
         Elements elements4 = elements1.select("[class=wea]");
         String rain = elements4.get(0).text();
         System.out.println(rain);
         // 高的温度
         Elements elements5 = elements1.select("span");
         String highTemperature = elements5.get(0).text()+"°C";
         System.out.println(highTemperature);
         // 低的温度
         String lowTemperature = elements5.get(1).text()+"°C";
         System.out.println(lowTemperature);
         // 风力
         Elements elements6 = elements1.select("i");
         String wind = elements6.get(2).text();
         System.out.println(wind);
     }
 }

View Code

结果打印出：

1 今天
2 8日
3 雷阵雨
4 33°C
5 25°C
6 微风

【详解】

附:

jsoup的官方中文文档为：开源项目,开源代码,开源文档,开源新闻,开源社区_深度开源
API 为： Overview (jsoup Java HTML Parser 1.14.3 API)

java代码第13行：

从文档中我们可用看出，获取数据源的方法有三：

（1）从一段 html代码字符串获取： Document doc = Jsoup.parse(html);

（2）从一个 url 获取： Document doc = Jsoup.connect("http://example.com/").get();

（3）从一个 html文件获取 File input = new File("/tmp/input.html");Document doc = Jsoup.parse(input, "UTF-8", "http://example.com/");

这里，我们采取了第二种方法，从url中获取。

java代码第24、26、30、34、38行：

Document 继承自 Element 类，而Element类有一个很好的方法，叫select ，这个选择器几乎无所不能。快速从一堆html代码中获取我们想要的一段，我觉得使用select最方便。下面我们来看怎么使用select方法来查找。

注：以下表格的结果都是使用以下语句打印出来的

for(Element e : elements) {
            System.out.println(e.text());
}

select详解
描述	测试的HTML代码	select写法	结果
通过标签名来查找	<span>33</span> <span>25</span>	`Elements elements = doc.select("span");` 注：通过标签来查找，直接写 "标签名" 就好，不需要尖括号。	33 25
通过 id 来查找	<span id=\"mySpan\">36</span> <span>20</span>	`Elements elements = doc.select("#mySpan");` 注：通过id来查找，使用方法跟 css 指定元素一样，用 #
通过 class名来查找	<span class=\"myClass\">36</span> <span>20</span>	`Elements elements = doc.select(".myClass");` 注：通过id来查找，使用方法跟 css 指定元素一样，用 .
利用标签内属性名查找元素	<span class=\"class1\" id=\"id1\">36</span> <span class=\"class2\" id=\"id2\">36</span>	`Elements elements = doc.select("span[class=class1]span[id=id1]");` 注：规则为标签名【属性名=属性值】，标签名可写可不写，多个属性即多个【】，如上。
利用标签内属性名前缀查找元素	<span class=\"class1\" >36</span> <span class=\"class2\" >22</span>	`Elements elements = doc.select("span[^cl]");` 注：规则为标签名【^属性名前缀】，标签名可写可不写，多个属性即多个【】。	36 22
利用标签内属性名+正则表达式查找元素	<span class=\"ABC\" >36</span> <span class=\"ADE\" >22</span>	`Elements elements = doc.select("span[class~=^AB]");` 注：规则为标签名【属性名~=正则表达式】，以上的正则表达式的意思是查找以class值以AB为开头的标签，标签名可写可不写，多个属性即多个【】
利用标签文本包含某些内容来查找	<span>36</span> <span>22</span>	`Elements elements = doc.select("span:contains(3)");` 注：规则为标签名:contains(文本值)
利用标签文本包含某些内容+正则表达式来查找	<span>36</span> <span>22</span>	`Elements elements = doc.select("span:matchesOwn(^3)");` 注：规则为标签名:matchesOwn(正则表达式)，以上的正则表式的意思是以文本值以3为开头的标签