目录
1、简介
xpath 即为 XML 路径语言,它是一种用来确定 XML(标准通用标记语言的子集)文档中某部分位置的语言。xpath 基于 XML 的树状结构,有不同类型的节点,包括元素节点,属性节点和文本节点,提供在数据结构树中找寻节点的能力。起初 xpath 的提出的初衷是将其作为一个通用的、介于 XPointer 与 XSLT 间的语法模型。但是 xpath 很快被开发者采用来当作小型查询语言。
简单来说我们通过 xpath 可以获取 XML 中的指定元素和指定节点的值,在网络爬虫中我们通过会把爬虫获取的 HTML 数据转换成XML 结构,然后通过 xpath 解析,获取我们想要的结果。
接下来说下 xpath 的表达式以及用法。
2、选取节点
xpath 使用路径表达式在 XML 文档中选取节点,节点是通过沿着路径来选取的,通过路径可以找到我们想要的节点或者节点范围。
表达式 | 描述 | 用法 | 说明 |
nodename | 选取此节点的所有子节点。 | xpath(‘span’) | 选取 span 元素的所有子节点 |
/ | 从根节点选取 | xpath(‘/div’) | 从根节点上选取div节点 |
// | 从匹配选择的当前节点选择文档中的节点,而不考虑它们的位置。
| xpath(‘//div’) | 从当前节点选取含有 div 节点的标签 |
. | 选取当前节点 | xpath(‘./div’) | 选取当前节点下的div标签 |
.. | 选取当前节点的父节点 | xpath(‘../’) | 回到上一级节点 |
@ | 选取属性 | xpath(“//div[@id=’1001’]”) | 获取 div 标签中,含有ID属性且值为1001的标签 |
3、谓语
谓语用来查找某个特定的节点或者包含某个指定的值的节点,谓语被嵌在方括号中。
表达式描述 | 用法说明 | |
/bookstore/book[1] | 选取属于 bookstore 子元素的第一个 book 元素。 | |
/bookstore/book[last()] | 选取属于 bookstore 子元素的最后一个 book 元素。 | |
/bookstore/book[last()-1] | 选取属于 bookstore 子元素的倒数第二个 book 元素。 | |
/bookstore/book[position()<3] | 选取最前面的两个属于 bookstore 元素的子元素的 book 元素。 | |
//title[@lang] | 选取所有拥有名为 lang 的属性的 title 元素。 | |
//title[@lang='eng'] | 选取所有 title 元素,且这些元素拥有值为 eng 的 lang 属性。 | |
/bookstore/book[price>35.00] | 选取 bookstore 元素的所有 book 元素,且其中的 price 元素的值须大于 35.00。 | |
/bookstore/book[price>35.00]/title | 选取 bookstore 元素中的 book 元素的所有 title 元素,且其中的 price 元素的值须大于 35.00。 |
4、通配符
xpath 通配符可用来选取未知的 XML 元素,通配指定节点。
表达式 | 描述 | 用法 | 说明 |
* | 匹配任何元素节点 | xpath(/div/*) | 选取 div 下的所有子节点 |
@* | 匹配任何属性节点 | xpath(/div[@*]) | 选取所有带属性的 div 节点 |
node() | 匹配任何类型的节点 | xpath(//div[@class=’tb_cls’]).node() | 选择标签为 div 且类属性为 tb_cls 的所有标签 |
5、多路径选择
通过在路径表达式中使用 “|” 运算符,可以选取若干个路径。
用法 | 说明 |
xpath(//book/title |//book/price) | 选取 book 元素的所有 title 和 price 元素。 |
xpath(//title| //price) | 选取文档中的所有 title 和 price 元素 |
6、xpath 轴
轴可定义相对于当前节点的节点集。
表达式 | 描述 | 用法 | 说明 |
ancestor | 选取当前节点的所有先辈(父、祖父等) | xpath(//div[@id=’123’]/ancestor::*) | 选择标签为div且ID号为123的所有先辈标签 |
ancestor-or-self | 选取当前节点的所有先辈(父、祖父等)以及当前节点本身 | xpath(//div[@id=’123’]/ancestor-or-self::*) | 选择标签为div且ID号为123的所有先辈标签且包含自己 |
attribute | 选取当前节点的所有属性 | xpath(//div[@id=’123’]/attribute::class) | 选择标签为div且ID号为123的类属性名称 |
child | 选取当前节点的所有子元素 | xpath(//div[@id=’123’]/child::book) | 选择标签为div且ID号为123的所有子元素的为book 节点 |
descendant | 选取当前节点的所有后代元素(子、孙等) | xpath(./descendant::*) | 返回当前节点的所有后代节点(子节点、孙节点) |
following | 选取文档中当前节点结束标签后的所有节点 | xpath(./following::*) | 选取文档中当前节点结束标签后的所有节点 |
parent | 选取当前节点的父节点 | xpath(./parent::*) | 选取当前节点的父节点 |
preceding | 选取文档中当前节点的开始标签之前的所有节点 | xpath(//div[@id=’123’]/preceding::*) | 选择标签为div且ID号为123的开始标签之前的所有节点 |
preceding-sibling | 选取当前节点之前的所有同级节点 | xpath(//div[@id=’123’]/preceding-sibling::*) | 选择标签为div且ID号为123的之前的所有同级节点 |
self | 选取当前节点 | xpath(./self::*) | 选取当前节点 |
7、常用的功能函数
使用功能函数能够更好的进行模糊搜索。
表达式 | 描述 | 用法 | 说明 |
starts-with | 选取id值以ma开头的div节点 | xpath(‘//div[starts-with(@id,”ma”)]‘) | 选取id值以ma开头的div节点 |
contains | 选取id值包含ma的div节点 | xpath(‘//div[contains(@id,”ma”)]‘) | 选取id值包含ma的div节点 |
and | 选取id值包含ma和in的div节点 | xpath(‘//div[contains(@id,”ma”) and contains(@id,”in”)]‘) | 选取id值包含ma和in的div节点 |
text() | 选取节点文本包含ma的div节点 | xpath(‘//div[contains(text(),”ma”)]‘) | 选取节点文本包含ma的div节点 |
这里说的仅是给出了语法,没有具体实例,原想在下面做一份,后来感觉还是去看官方文档吧,会更加详细,感兴趣的可看 :xpath 教程 。