xpath语言使用

xpath是一门语言,可以在xml文档中查找信息,在爬虫中比正则表达式方便很多;

xpath是属于lxml库,安装xpath首先需要安装python第三方库lxml库文件;

from lxml import etree

Selector = etree.HTML(html1) ####html1是页面源代码

Selector.xpath


对于网页选择,我们可以使用手动查找,也可也使用chrome右键查找xpath

xpath提取内容:

(1)   //定位根节点

(2)   /往下层寻找

(3)   /text()提取文本内容

(4)   /@xxx提取属性内容

(5)  特殊用法 start-with  如:

            <div id= "test-1">haha</div>

            <div id= "test-2">zgd</div>

            <div id= "test-3">scx</div>

     可以写成content =selector.xpath( '//div[start-with(@id,"test")]/text()'),

    其实我们也可以找到上一级目录,然后定位到div,然后再遍历也能解决问题。

(6)  特殊string(.)

html2 = '''
<!DOCTYPE html>
<html>
<head lang="en">
    <meta charset="UTF-8">
    <title></title>
</head>
<body>
    <div id="test3">
        我左青龙,
        <span id="tiger">
            右白虎,
            <ul>上朱雀,
                <li>下玄武。</li>
            </ul>
            老牛在当中,
        </span>
        龙头在胸口。
    </div>
</body>
</html>

data = selector.xpath('//div[@id="test3"]')[0]  

info = data.xpath('string(.)')

content = info.replace('\n', ' ').replace(' ' , ' ' )

上面代码能提取出所有的文字。


如果使用data = selector.xpath('//div[@id="test3"]/text()')只能提取出

我左青龙,
龙头在胸口。
对于内部的内容是不能提取出的。




  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值