Jsoup解析网页内容

最新推荐文章于 2023-12-28 17:54:26 发布

zycsu

最新推荐文章于 2023-12-28 17:54:26 发布

阅读量690

点赞数

分类专栏： android学习记录学习笔记

本文链接：https://blog.csdn.net/zhongyifly/article/details/52081224

版权

学习笔记同时被 2 个专栏收录

13 篇文章 0 订阅

订阅专栏

android学习记录

9 篇文章 0 订阅

订阅专栏

jsoup 是一款Java 的HTML解析器，可直接解析某个URL地址、HTML文本内容。jsoup提供两种方式来获取HTML中的数据，一种是DOM方式，另一种是比较灵活的选择器方式来获取数据。

1. 加载相关库

笔者使用的是android studio，通过在build.gradle中加入compile 'org.jsoup:jsoup:1.9.2'载入相关库。

2.构建一个DOM对象

将需要<HTML>格式的数据解析成一个DOM对象，DOM对象由多个Element对象构成，结构如下图所示。

w3c中关于DOM中的节点即Element定义如下：

1) 整个文档是一个文档节点
2)每个 HTML 元素是元素节点
3)HTML 元素内的文本是文本节点
4)每个 HTML 属性是属性节点
5)注释是注释节点

Jsoup通过以下语句来构建一个DOM对象

Document document = Jsoup.parse(content);

content是要解析的字符串。

3.获取相关的数据：

1) 使用dom方法来获取元素。

Element content = doc.getElementById("content");
Elements links = content.getElementsByTag("a");
for (Element link : links) {
  String linkHref = link.attr("href");
  String linkText = link.text();
}

笔者使用通过 dom方式来获取csdn博客网页中的数据

Elements blogItemList = document.getElementsByClass("article_item");

获取到以下元素列表：

<div class="list_item article_item"> 
 <div class="article_title"> 
  <span class="ico ico_type_Original"></span> 
  <h1> <span class="link_title"><a href="/wwj_748/article/details/52077118"> Gradle插件开发-上传apk文件到Bugly </a></span> </h1> 
 </div> 
 <div class="article_description">
   前言上一篇文章已经给大家详细介绍了如何通过Gradle将我们开发好的Library上传到JCenter，基本上就是一系列配置，最后通过Gradle脚本将Library打包成jar或者aar包上传到maven仓库，然后添加到JCenter仓库进行审核，通过之后就能让开发者在gradle脚本进行引用。本篇博客还是基于Gradle，但稍微进阶一下，将跟大家分享一下如何开发一个Gradle插件，这个插件是我... 
 </div> 
 <div class="article_manage"> 
  <span class="link_postdate">2016-07-31 13:38</span> 
  <span class="link_view" title="阅读次数"><a href="/wwj_748/article/details/52077118" title="阅读次数">阅读</a>(85)</span> 
  <span class="link_comments" title="评论次数"><a href="/wwj_748/article/details/52077118#comments" title="评论次数" οnclick="_gaq.push(['_trackEvent','function', 'onclick', 'blog_articles_pinglun'])">评论</a>(0)</span> 
 </div> 
 <div class="clear"></div> 
</div>

jsoupDOM的api有：

查找元素
getElementById(String id)
getElementsByTag(String tag)
getElementsByClass(String className)
getElementsByAttribute(String key) (and related methods)
Element siblings: siblingElements(), firstElementSibling(), lastElementSibling(); nextElementSibling(), previousElementSibling()
Graph: parent(), children(), child(int index)
元素数据
attr(String key)获取属性attr(String key, String value)设置属性
attributes()获取所有属性
id(), className() and classNames()
text()获取文本内容text(String value) 设置文本内容
html()获取元素内HTMLhtml(String value)设置元素内的HTML内容
outerHtml()获取元素外HTML内容
data()获取数据内容（例如：script和style标签)
tag() and tagName()
操作HTML和文本
append(String html), prepend(String html)
appendText(String text), prependText(String text)
appendElement(String tagName), prependElement(String tagName)
html(String value)

2.使用选择器

选择器提供了一种更为强大的方式来解析html，类似于CSS或jQuery的语法来查找和操作元素，并提供正表达的方式进行检索，相对于dom方法更为灵活。

类似于想获取href中含有category的链接，可以通过以下语句很轻易的获取：

Elements elements = document.select("a[href~=category]");

从csdn中解析出来的数据如下

<a href="/wwj_748/article/category/2547719" οnclick="_gaq.push(['_trackEvent','function', 'onclick', 'blog_articles_wenzhangfenlei']); ">【Android CSDN博客客户端开发】</a>

selector的其他语法：

tagname: 通过标签查找元素，比如：a
ns|tag: 通过标签在命名空间查找元素，比如：可以用 fb|name 语法来查找 <fb:name> 元素
#id: 通过ID查找元素，比如：#logo
.class: 通过class名称查找元素，比如：.masthead
[attribute]: 利用属性查找元素，比如：[href]
[^attr]: 利用属性名前缀来查找元素，比如：可以用[^data-] 来查找带有HTML5 Dataset属性的元素
[attr=value]: 利用属性值来查找元素，比如：[width=500]
[attr^=value], [attr$=value], [attr*=value]: 利用匹配属性值开头、结尾或包含属性值来查找元素，比如：[href*=/path/]
[attr~=regex]: 利用属性值匹配正则表达式来查找元素，比如： img[src~=(?i)\.(png|jpe?g)]
*: 这个符号将匹配所有元素
Selector选择器组合使用
el#id: 元素+ID，比如： div#logo
el.class: 元素+class，比如： div.masthead
el[attr]: 元素+class，比如： a[href]
任意组合，比如：a[href].highlight
ancestor child: 查找某个元素下子元素，比如：可以用.body p 查找在"body"元素下的所有 p元素
parent > child: 查找某个父元素下的直接子元素，比如：可以用div.content > p 查找 p 元素，也可以用body > * 查找body标签下所有直接子元素
siblingA + siblingB: 查找在A元素之前第一个同级元素B，比如：div.head + div
siblingA ~ siblingX: 查找A元素之前的同级X元素，比如：h1 ~ p
el, el, el:多个选择器组合，查找匹配任一选择器的唯一元素，例如：div.masthead, div.logo
伪选择器selectors
:lt(n): 查找哪些元素的同级索引值（它的位置在DOM树中是相对于它的父节点）小于n，比如：td:lt(3) 表示小于三列的元素
:gt(n):查找哪些元素的同级索引值大于n，比如： div p:gt(2)表示哪些div中有包含2个以上的p元素
:eq(n): 查找哪些元素的同级索引值与n相等，比如：form input:eq(1)表示包含一个input标签的Form元素
:has(seletor): 查找匹配选择器包含元素的元素，比如：div:has(p)表示哪些div包含了p元素
:not(selector): 查找与选择器不匹配的元素，比如： div:not(.logo) 表示不包含 class=logo 元素的所有 div 列表
:contains(text): 查找包含给定文本的元素，搜索不区分大不写，比如： p:contains(jsoup)
:containsOwn(text): 查找直接包含给定文本的元素
:matches(regex): 查找哪些元素的文本匹配指定的正则表达式，比如：div:matches((?i)login)
:matchesOwn(regex): 查找自身包含文本匹配指定正则表达式的元素
注意：上述伪选择器索引是从0开始的，也就是说第一个元素索引值为0，第二个元素index为1等

总结：

相对DOM方式来说，select更为灵活。

zycsu

关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
Jsoup解析网页内容

jsoup 是一款Java 的HTML解析器，可直接解析某个URL地址、HTML文本内容。jsoup提供两种方式来获取HTML中的数据，一种是DOM方式，另一种是比较灵活的选择器方式来获取数据。1. 加载相关库笔者使用的是android studio，通过在build.gradle中加入compile'org.jsoup:jsoup:1.9.2'载入相关库。 2.构建
复制链接

扫一扫

专栏目录