python爬取网站信息时关于Xpath路径的书写
-
Xpath简介
Xpath是一门在XML文档中查找信息的语言,可以对XML文档中的元素和属性使用路径表达式进行导航,Xpath包含一个标准函数库。我们在使用Xpath的时候,是先将XML抽象成一种树形结构,一层一层向下,Xpath是基于此的,在实际使用Xpath过程中会发现其使用方式很像我们在平常使用的路径表达式。
2. Xpath中的节点
在Xpath中,有七种类型的节点:元素,属性,文本,命名空间,处理指令,注释以及文档节点。
节点的关系有父、子、同胞、先辈、后代。
XPath 使用路径表达式来选取 XML 文档中的节点或者节点集。这些路径表达式和我们在常规的电脑文件系统中看到的表达式非常相似。
表达式 | 作用 |
---|---|
nodename | 选取该节点的所有子节点 |
/ | 从根节点选取,它必须是属于它前面的那个节点的子节点 |
// | 从匹配选择的当前节点选择文档中的节点,而不考虑它的位置。(它可以不是属于它前面的那个节点的子节点) |
. | 选取当前节点。 |
… | 选取当前节点的父节点。 |
@ | 选取属性。 |
例子:
路径表达式 | 结果 |
---|---|
bookstore | 选取 bookstore 元素的所有子节点 |
/bookstore | 选取根元素 bookstore。注释:假如路径起始于正斜杠( / ),则此路径始终代表到某元素的绝对路径。 |
bookstore/book | 选取属于 bookstore 的子元素的所有 book 元素。 |
//book | 选取所有 book 子元素,而不管它们在文档中的位置。 |
bookstore//book | 选择属于 bookstore 元素的后代的所有 book 元素,而不管它们位于 bookstore 之下的什么位置。 |
//@title | 选取名为 title 的所有属性 |
例子
1.查找页面根元素://
2.查找页面上所有的input元素://input
3.查找页面上第一个form元素内的直接子input元素(即只包括form元素的下一级input元素,使用绝对路径表示, 单/号)://form[1]/input
4.查找页面上第一个form元素内的所有子input元素(只要在form元素内的input都算,不管还嵌套了多少个其他标 签,使用相对路径表示,双//号)://form[1]//input
5.查找页面上第一个form元素://form[1]
6.查找页面上id为loginForm的form元素://form[@id=‘loginForm’]
7.查找页面上具有name属性为username的input元素://input[@name=‘username’]
8.查找页面上id为loginForm的form元素下的第一个input元素://form[@id=‘loginForm’]/input[1]
9.查找页面具有name属性为contiune并且type属性为button的input元素://input[@name=‘continue’][@type=‘button’]
10.查找网页中所有属性为id的元素 😕/@id
谓语用来查找某个特定的节点或者包含某个指定的值的节点。
谓语被嵌在方括号中。
路径表达式 | 结果 |
---|---|
bookstore/book[1] | 选取属于 bookstore 子元素的第一个 book 元素。 |
/bookstore/book[last()] | 选取属于 bookstore 子元素的最后一个 book 元素。 |
/bookstore/book[last()-1] | 选取属于 bookstore 子元素的倒数第二个 book 元素。 |
/bookstore/book[position()❤️] | 选取最前面的两个属于 bookstore 元素的子元素的 book 元素。 |
//title[@lang] | 选取所有拥有名为 lang 的属性的 title 元素。 |
//title[@lang=‘eng’] | 选取所有 title 元素,且这些元素拥有值为 eng 的 lang 属性。 |
/bookstore/book[price>35.00] | 选取 bookstore 元素的所有 book 元素,且其中的 price 元素的值须大于 35.00。 |
/bookstore/book[price>35.00]/title | 选取 bookstore 元素中的 book 元素的所有 title 元素,且其中的 price 元素的值须大于 35.00。 |
选取未知节点
XPath 通配符可用来选取未知的 XML 元素。
通配符 | 描述 |
---|---|
* | 匹配任何元素节点。 |
@* | 匹配任何属性节点。 |
node() | 匹配任何类型的节点。 |
例子:
路径表达式 | 结果 |
---|---|
/bookstore/* | 选取 bookstore 元素的所有子元素。 |
//* | 选取若干路径 |
通过在路径表达式中使用“ | ”运算符, |
可以选取若干个路径。选取文档中的所有元素。
如
//book/title | //book/price: 选取 book 元素的所有 title 和 price 元素。
//title|//price :选取文档中的所有 title 和 price 元素。
/bookstore/book/title| //price:选取属于 bookstore 元素的 book 元素的所有 title 元素,以及文档中所有的 price 元素。
注意:text()
经常在XPath表达式的最后看到text(),它仅仅返回所指元素的文本内容。
路径中/和//的区别简单来说就是是否考虑它所在的位置。