html元素兼容i6,更简单高效的HTML数据提取-Xpath

XPath 是一门在 XML 文档中查找信息的语言。XPath 用于在 XML 文档中通过元素和属性进行导航。

相比于BeautifulSoup，Xpath在提取数据时会更加的方便。

安装

在Python中很多库都有提供Xpath的功能，但是最基本的还是lxml这个库，效率最高。在之前BeautifulSoup章节中我们也介绍到了lxml是如何安装的。

pip install lxml

语法

XPath 使用路径表达式在 XML 文档中选取节点。节点是通过沿着路径或者 step 来选取的。

我们将用以下的HTML文档来进行演示：

html_doc = '''

​

​

​

Everyday Italian

Giada De Laurentiis

2005

30.00

​

Harry Potter

J K. Rowling

2005

29.99

​

XQuery Kick Start

James McGovern

Per Bothner

Kurt Cagle

James Linn

Vaidyanathan Nagarajan

2003

49.99

​

Learning XML

Erik T. Ray

200339.95 ​ ​'''

from lxml importetree

​

page= etree.HTML(html_doc)

路径查找

表达式

描述

nodename

选取此节点的子节点。

/

从当前根节点选取。

//

从匹配选择的当前节点选择文档中的节点，而不考虑它们的位置。

.

选取当前节点。

..

选取当前节点的父节点。

@

选取属性。

查找当前节点的子节点

In [1]: page.xpath('head')

Out[1]: []

从根节点进行查找

In [2]: page.xpath('/html')

Out[2]: []

从整个文档中所有节点查找

In [3]: page.xpath('//book')

Out[3]:

[,,,]

选取当前节点的父节点

In [4]: page.xpath('//book')[0].xpath('..')

Out[4]: []

选取属性

In [5]: page.xpath('//book')[0].xpath('@category')

Out[5]: ['COOKING']

节点查找

表达式

结果

nodename[1]

选取第一个元素。

nodename[last()]

选取最后一个元素。

nodename[last()-1]

选取倒数第二个元素。

nodename[position()<3]

选取前两个子元素。

nodename[@lang]

选取拥有名为 lang 的属性的元素。

nodename[@lang='eng']

选取拥有lang属性，且值为 eng 的元素。

选取第二个book元素

In [1]: page.xpath('//book[2]/@category')

Out[1]: ['CHILDREN']

选取倒数第三个book元素

In [2]: page.xpath('//book[last()-2]/@category')

Out[2]: ['CHILDREN']

选取第二个元素开始的所有元素

In [3]: page.xpath('//book[position() > 1]/@category')

Out[3]: ['CHILDREN', 'WEB', 'WEB']

选取category属性为WEB的的元素

In [4]: page.xpath('//book[@category="WEB"]/@category')

Out[4]: ['WEB', 'WEB']

未知节点

通配符

描述

*

匹配任何元素节点。

@*

匹配任何属性节点。

匹配第一个book元素下的所有元素

In [1]: page.xpath('//book[1]/*')

Out[1]:

[,,,]

获取节点中的文本

用text()获取某个节点下的文本

In [1]: page.xpath('//book[1]/author/text()')

Out[1]: ['Giada De Laurentiis']

如果这个节点下有多个文本，则只能取到一段。

用string()获取某个节点下所有的文本

In [2]: page.xpath('string(//book[1])')

Out[2]: '\n Everyday Italian\n Giada De Laurentiis\n 2005\n 30.00\n'

选取多个路径

通过在路径表达式中使用“|”运算符，您可以选取若干个路径。

In [1]: page.xpath('//book[1]/title/text() | //book[1]/author/text()')

Out[1]: ['Everyday Italian', 'Giada De Laurentiis']