xpath选择器

最新推荐文章于 2023-02-28 15:08:11 发布

人生三醒七分醉

最新推荐文章于 2023-02-28 15:08:11 发布

阅读量2.6k

点赞数 2

分类专栏： python 文章标签： python xpath

本文链接：https://blog.csdn.net/qq_32942549/article/details/78400675

版权

python 专栏收录该内容

13 篇文章 0 订阅

订阅专栏

XPath 的全称是 XML Path Language，即 XML 路径语言，它是一种在结构化文档（比如 XML 和 HTML 文档）中定位信息的语言，XPath 使用路径表达式来选取 XML 文档中的节点或节点集。节点是通过沿着路径 (path) 或者步 (steps) 来选取的。

1. 语法

1.1 HTML 实例文档

后面我们将以下面的 HTML 文档介绍 XPath 的使用 http://doc.scrapy.org/en/latest/_static/selectors-sample1.html。

<html>
    <head>
        <base href='http://example.com/' />
        <title>Example website</title>
    </head>
    <body>
        <div id='images'>
            <a href='image1.html'>Name: My image 1 <br/><img src='image1_thumb.jpg'/></a>
            <a href='image2.html'>Name: My image 2 <br/><img src='image2_thumb.jpg'/></a>
            <a href='image3.html'>Name: My image 3 <br/><img src='image3_thumb.jpg'/></a>
            <a href='image4.html'>Name: My image 4 <br/><img src='image4_thumb.jpg'/></a>
            <a>Name: My image 5 <br/><img src='image5_thumb.jpg'/></a>
        </div>
    </body></html>

1.2 选取节点

下表是 XPath 常用的语法，实例对应的是上面的 HTML 文档。

表达式	描述	实例	结果
nodename	选取此节点的所有子节点	body	选取 body 元素的所有子节点
/	从根节点选取	/html	选取根元素 html
//	匹配选择的当前节点，不考虑位置	//img	选取所有 img 元素，而不管它们在文档的位置
.	选取当前节点	./img	选取当前节点下的 img 节点
..	选取当前节点的父节点	../img	选取当前节点的父节点下的 title
@	选取属性	//a[@href=”image1.html”]	选取所有 href 属性为 “image1.html” 的 a 节点
		//a/@href	获取所有 a 节点的 href 属性的值

1.3 谓语

谓语用来查找某个特定的节点或者包含某个指定的值的节点，谓语嵌在方括号中。

路径表达式	结果
//body//a[1]	选取属于 body 子元素的第一个 a 元素
//body//a[last()]	选取属于 body 子元素的最好一个 a 元素
//a[@href]	选取所有拥有名为 href 的属性的 a 元素
//a[@href=’image2.html’]	选取所有 href 属性等于 “image2.html” 的 a 元素

2. 在 Python 中使用

在 python 中使用 XPath 需要安装相应的库，这里推荐使用 lxml 库。

代码示例：

# -*- coding: utf-8 -*-

from lxml import etree

html = """<html>
    <head>
        <base href='http://example.com/' />
        <title>Example website</title>
    </head>
    <body>
        <div id='images'>
            <a href='image1.html'>Name: My image 1 <br/><img src='image1_thumb.jpg'/></a>
            <a href='image2.html'>Name: My image 2 <br/><img src='image2_thumb.jpg'/></a>
            <a href='image3.html'>Name: My image 3 <br/><img src='image3_thumb.jpg'/></a>
            <a href='image4.html'>Name: My image 4 <br/><img src='image4_thumb.jpg'/></a>
            <a>Name: My image 5 <br/><img src='image5_thumb.jpg'/></a>
        </div>
    </body>
</html>"""

from lxml import etree
soup = etree.HTML(html)
page=soup.xpath('/html/head/base/@href') #从根节点开始选取
page=soup.xpath('/html/head//@href') #也可以这样选择结果是相同的
#//表示从当前节点开始选择，不必考虑位置。
#选取title下所有文本
page=soup.xpath("//title/text()")
#选取HTML下所有a节点
page=soup.xpath('//a')
#选取标签下属性为image.html的scr属性
page=soup.xpath("//a[@href='image1.html']/img/@src")
#选取a标签下第三个href属性
page=soup.xpath("//a[contains(@href, '3')]/@href")
#body最后一个a标签href属性
page=soup.xpath("//body//a[last()]/img/@src")

page=soup.xpath('//a[@class="active"][@id="value"]/img/@src') #多个属性定位

3.常用函数

除了索引、属性外，Xpath还可以使用便捷的函数来增强定位的准确性。下面试常用的几个函数：

#定位href属性中包含“promote.html”的所有a节点
//a[contains(@href,'promote.html')]

#元素内的文本为“应用推广”的所有a节点
//a[text()='应用推广']

#href属性值是以“/ads”开头的所有a节点
//a[starts-with(@href,'/ads')]

人生三醒七分醉

关注

2
点赞
踩
9

收藏

觉得还不错? 一键收藏
0
评论
xpath选择器

XPath 的全称是 XML Path Language，即 XML 路径语言，它是一种在结构化文档（比如 XML 和 HTML 文档）中定位信息的语言，XPath 使用路径表达式来选取 XML 文档中的节点或节点集。节点是通过沿着路径 (path) 或者步 (steps) 来选取的。1. 语法1.1 HTML 实例文档后面我们将以下面的 HTML 文档介绍 XPath 的使用 http://do...
复制链接

扫一扫