python爬虫必备-xpath使用详解

xpath语法及使用

XPath是一门在XML文档中查找信息的语言，在网络爬虫应用中十分常用，我们经常用Xpath表达式在网页脚本中过滤提取需要的关键信息，而且Xpath是一门通用的标准语言，除了在python中使用，在其他语言中也有相应的类库可以使用，例如C#中的HtmlAgilityPack库，所以比较通用，我一般写爬虫提取数据都喜欢用XPath，通用好改，毕竟有时候原始数据的格式会经常变化。

一、xpath常用语法汇总

我们先拿官方的实例来说明一下Xpath语法，官方是一个XML的实例，其实HTML也是XML的一种扩展，他们的用法都是一样的，语法都是通用的，将xml示例和语法表格中的描述一一对照就能理解语法，十分简单，所见即所得。

1.1 事例xml文档

<?xml version="1.0" encoding="ISO-8859-1"?>
<bookstore>
<book>
  <title lang="eng">Harry Potter</title>
  <price>29.99</price>
</book>
<book>
  <title lang="eng">Learning XML</title>
  <price>39.95</price>
</book>
</bookstore>

1.2 Xpath语法

表达式	描述
nodename	选取此节点的所有子节点
/	从根节点选取
//	从匹配选择的当前节点选择文档中的节点，而不考虑它们的位置
.	选取当前节点
…	选取当前节点的父节点
@	选取属性

1.3 语法实例

表达式	描述
bookstore	选取 bookstore 元素的所有子节点。
/bookstore	选取根元素 bookstore。注释：假如路径起始于正斜杠( / )，则此路径始终代表到某元素的绝对路径！
bookstore/book	选取属于 bookstore 的子元素的所有 book 元素。
//book	选取所有 book 子元素，而不管它们在文档中的位置。
bookstore//book	选择属于 bookstore 元素的后代的所有 book 元素，而不管它们位于 bookstore 之下的什么位置。
//@lang	选取名为 lang 的所有属性。

1.4 谓语

路径表达式	结果
/bookstore/book[1]	选取属于 bookstore 子元素的第一个 book 元素。
/bookstore/book[last()]	选取属于 bookstore 子元素的最后一个 book 元素。
/bookstore/book[last()-1]	选取属于 bookstore 子元素的倒数第二个 book 元素。
/bookstore/book[position()❤️]	选取最前面的两个属于
//title[@lang]	选取所有拥有名为 lang 的属性的 title 元素。
//title[@lang=‘eng’]	选取所有 title 元素，且这些元素拥有值为 eng 的lang 属性。
/bookstore/book[price>35.00]	选取 bookstore 元素的所有 book 元素，且其中的 price 元素的值须大于 35.00。
/bookstore/book[price>35.00]/title	选取 bookstore 元素中的 book 元素的所有 title 元素，且其中的 price 元素的值须大于 35.00。

1.5 选取未知节点

通配符	描述
*	匹配任何元素节点。
@*	匹配任何属性节点。
node()	匹配任何类型的节点。

1.6 实例

路径表达式	描述
/bookstore/*	选取 bookstore 元素的所有子元素。
//*	选取文档中的所有元素。
//title[@*]	选取所有带有属性的 title 元素。

1.7 选取若干路径

通过在路径表达式中使用“|”运算符，您可以选取若干个路径。

路径表达式	描述
//book/title | //book/price	选取 book 元素的所有 title 和 price 元素。
//title | //price	选取文档中的所有 title 和 price 元素。
/bookstore/book/title | //price	选取属于 bookstore 元素的 book 元素的所有 title 元素，以及文档中所有的 price 元素。

二、python中使用

在python中使用lxml来调用xpath，lxml不在标准库之内，需要使用pip来安装。使用起来很简单，经常用到的方法就那么几个。我们用一个常被举例的html实例文档来列出使用方法和场景。

htmlStr = """
<div>
 <ul>
      <li class="item-1"><a href="1.html">1 item</a></li>
      <li class="item-2"><a href="2.html">2 item</a></li>
      <li class="item-inactive"><a href="3.html">3 item</a></li>
      <li class="item-4"><a href="4.html">4 item</a></li>
      <li class="item-5"><a href="5.html">5 item</a>
  </ul>
</div>
"""
# 加载并打印html
html = etree.HTML(htmlStr)
result = etree.tostring(html)
print(result.decode("utf-8"))

2.1 获取标签的值

两种方法，一种直接卸载xpath表达式里，另一种用lxml对象的text方法来获取。

html = etree.HTML(htmlStr)
html_data = html.xpath('/html/body/div/ul/li/a/text()')
print(html)
for s in html_data:
	print(s)
	
html_data = html.xpath('/html/body/div/ul/li/a')
print(html)
for s in html_data:
	print(s.text)

2.2 获取标签属性的值

本实例中获取a标签的href值

html = etree.HTML(htmlStr)
html_data = html.xpath('/html/body/div/ul/li/a/@href')
for s in html_data:
    print(s)

2.3 使用相对路径

获取a标签的值
# 相对路径
html_data = html.xpath('//li/a/text()')
# 绝对路径
# html_data = html.xpath('/html/body/div/ul/li/a/text()')
print(html_data)
for s in html_data:
    print(s)

2.4 查找标签，获取值

按照xpath的选择器语法，可以进行各种匹配查找所需要的标签及其值和标签内的属性。例如多属性匹配，按需选择，节点轴选择等等，只要符合xpath语法即可。

# 查找a类型的href属性为2.html的标签的值
html = etree.HTML(htmlStr)
html_data = html.xpath('/html/body/div/ul/li/a[@href="2.html"]/text()')
print(html_data[0])

# 选中href属性为4.html的a节点，然后再获取其父节点，然后再获取其class属性
result = html.xpath('//a[@href="4.html"]/../@class')
result = html.xpath('//a[@href="4.html"]/parent::*/@class')

# 多属性匹配
result = html.xpath('//li[contains(@class,"li") and @name="item"]/a/text()')

# 按序选择
result = html.xpath('//li[1]/a/text()')
result = html.xpath('//li[last()]/a/text()')
result = html.xpath('//li[position()<3]/a/text()') # 位置小于3的节点
result = html.xpath('//li[last()-2]/a/text()') # 倒数第三的节点

# 节点轴的选择
result = html.xpath('//li[1]/ancestor::*') # 获取第一个li节点的所有祖先节点
result = html.xpath('//li[1]/ancestor::div')
result = html.xpath('//li[1]/attribute::*') # 获取li节点的所有属性值
result = html.xpath('//li[1]/child::a[@hreg="4.html"]') # 子节点
result = html.xpath('//li[1]/descendant::span') #子孙节点
result = html.xpath('//li[1]/following::*[2]') #当前节点的第二个后续节点
result = html.xpath('//li[1]/following-sibling::*') # 当前节点之后的所有同级节点