网络爬虫基础-Xpath语法(一)

前言

这一章节主要讲解Xpath的基础语法,学习如何通过Xpath获取网页中我们想要的内容;为我们的后面学习Java网络爬虫基础准备工作。

备注:此章节为基础核心章节,未来会在网络爬虫的数据解析环节经常使用,学会Xpath解析语法,可为未来爬虫解析省去很多麻烦。

Xpath简介

       XPath即为XML路径语言,它是一种用来确定XML标准通用标记语言的子集)文档中某部分位置的语言。XPath基于XML的树状结构,有不同类型的节点,包括元素节点,属性节点和文本节点,提供在数据结构树中找寻节点的能力。起初 XPath 的提出的初衷是将其作为一个通用的、介于XPointer与XSLT间的语法模型。但是 XPath 很快的被开发者采用来当作小型查询语言。

  简单来说我们通过Xpath可以获取XML中的指定元素和指定节点的值。在网络爬虫中我们通过会把爬虫获取的HTML数据转换成XML结构,然后通过XPath解析,获取我们想要的结果。

 

接下来为大家分享以下xpath的表达式以及用法。

一.选取节点

Xpath使用路径表达式在XML文档中选取节点。节点是通过沿着路径来选取的,通过路径可以找到我们想要的节点或者节点范围。

表达式   

描述

用法

说明

nodename

选取此节点的所有子节点。

xpath(‘span’)

 选取span元素的所有子节点

/

从根节点选取

xpath(‘/div’)

从根节点上选取div节点

//

从匹配选择的当前节点选择文档中的节点,而不考虑它们的位置。

 

xpath(‘//div’)

从当前节点选取含有div节点的标签

.

选取当前节点

xpath(‘./div’)

选取当前节点下的div标签

..

选取当前节点的父节点

xpath(‘../’)

回到上一级节点

@

选取属性

xpath(“//div[@id=’1001’]”)

获取div标签中,含有ID属性且值为1001的标签


 

.谓语(Predicates)

谓语用来查找某个特定的节点或者包含某个指定的值的节点。

谓语被嵌在方括号中。

表达式描述                                   

   用法说明                                                                                                                                    

/bookstore/book[1]

选取属于 bookstore 子元素的第一个 book 元素。

/bookstore/book[last()]

选取属于 bookstore 子元素的最后一个 book 元素。

/bookstore/book[last()-1]

选取属于 bookstore 子元素的倒数第二个 book 元素。

/bookstore/book[position()<3]

选取最前面的两个属于 bookstore 元素的子元素的 book 元素。

//title[@lang]

选取所有拥有名为 lang 的属性的 title 元素。

//title[@lang='eng']

选取所有 title 元素,且这些元素拥有值为 eng 的 lang 属性。

/bookstore/book[price>35.00]

选取 bookstore 元素的所有 book 元素,且其中的 price 元素的值须大于 35.00。

/bookstore/book[price>35.00]/title

选取 bookstore 元素中的 book 元素的所有 title 元素,且其中的 price 元素的值须大于 35.00。

 

三. 通配符

XPath 通配符可用来选取未知的 XML 元素,通配指定节点

 

表达式

描述

用法

说明

匹配任何元素节点

xpath(/div/*)           

选取div下的所有子节点

@*

匹配任何属性节点

xpath(/div[@*])

选取所有带属性的div节点

node()

匹配任何类型的节点

xpath(//div[@class=’tb_cls’]).node()

选择标签为div且类属性为tb_cls的所有标签

 

 

四.多路径选择

通过在路径表达式中使用“|”运算符,您可以选取若干个路径。

用法

说明

xpath(//book/title |//book/price

选取 book 元素的所有 title 和 price 元素。  

xpath(//title| //price

选取文档中的所有 title 和 price 元素

 

五.XPath 轴

轴可定义相对于当前节点的节点集。

表达式

描述

用法

说明

ancestor

选取当前节点的所有先辈(父、祖父等)

xpath(//div[@id=’123’]/ancestor::*)

选择标签为div且ID号为123的所有先辈标签

ancestor-or-self

选取当前节点的所有先辈(父、祖父等)以及当前节点本身

xpath(//div[@id=’123’]/ancestor-or-self::*)

选择标签为div且ID号为123的所有先辈标签且包含自己

attribute

选取当前节点的所有属性

xpath(//div[@id=’123’]/attribute::class)

选择标签为div且ID号为123的类属性名称

child

选取当前节点的所有子元素

xpath(//div[@id=’123’]/child::book)

选择标签为div且ID号为123的所有子元素的book 节点

descendant

选取当前节点的所有后代元素(子、孙等)

xpath(./descendant::*)

返回当前节点的所有后代节点(子节点、孙节点)

following

选取文档中当前节点结束标签后的所有节点

xpath(./following::*)

选取文档中当前节点结束标签后的所有节点

parent

选取当前节点的父节点

xpath(./parent::*)

选取当前节点的父节点

preceding

选取文档中当前节点的开始标签之前的所有节点

xpath(//div[@id=’123’]/preceding::*)

选择标签为div且ID号为123的开始标签之前的所有节点

preceding-sibling

选取当前节点之前的所有同级节点

xpath(//div[@id=’123’]/preceding-sibling::*)

选择标签为div且ID号为123的之前的所有同级节点

self

选取当前节点

xpath(./self::*)

选取当前节点

 

 

六.XPath 运算符

表达式

描述

用法

说明

+

加法  

6 + 4

10

-

减法

6 - 4

2

*

乘法

6 * 4

24

div

除法

8 div 4

2

=

等于

price=9.80

如果 price 是 9.80,则返回 true。

如果 price 是 9.90,则返回 false。

!=

不等于

price!=9.80

如果 price 是 9.90,则返回 true。

如果 price 是 9.80,则返回 false。

<

小于

price<9.80

如果 price 是 9.00,则返回 true。

如果 price 是 9.90,则返回 false。

<=

小于或等于

price<=9.80

如果 price 是 9.00,则返回 true。

如果 price 是 9.90,则返回 false。

>

大于

price>9.80

如果 price 是 9.90,则返回 true。

如果 price 是 9.80,则返回 false。

>=

大于或等于

price>=9.80

如果 price 是 9.90,则返回 true。

如果 price 是 9.70,则返回 false。

or

price=9.80 or price=9.70

如果 price 是 9.80,则返回 true。

如果 price 是 9.50,则返回 false。

and

price>9.00 and price<9.90

如果 price 是 9.80,则返回 true。

如果 price 是 8.50,则返回 false。

mod

计算除法的余数

5 mod 2

1

 

七.常用的功能函数

使用功能函数能够更好的进行模糊搜索

表达式

描述

用法

说明

starts-with

选取id值以ma开头的div节点

xpath(‘//div[starts-with(@id,”ma”)]‘)

选取id值以ma开头的div节点

contains

选取id值包含ma的div节点

xpath(‘//div[contains(@id,”ma”)]‘)

选取id值包含ma的div节点

and

选取id值包含ma和in的div节点

xpath(‘//div[contains(@id,”ma”) and contains(@id,”in”)]‘)

选取id值包含ma和in的div节点

text()

选取节点文本包含ma的div节点

xpath(‘//div[contains(text(),”ma”)]‘)

选取节点文本包含ma的div节点

总结

  本文章向您介绍了为什么要学习Xpath、Xpath简介以及Xpath的基础语法;接下来您可以尝试通过编写代码来熟悉使用xpath表达式;同时我将会在下一章节(公众号:DT数据技术博文)为大家介绍,如何通过Xpath表达式来解析我们的爬虫数据。

 

 

(ID:DT数据技术博文)


  • 19
    点赞
  • 160
    收藏
    觉得还不错? 一键收藏
  • 2
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值