网络爬虫 xpath

本文介绍了如何使用Python的lxml库解析HTML文档,并通过XPath表达式提取所需信息。示例中展示了获取li标签内容、a标签文本、属性值等操作,以及XPath的路径选择、谓语和位置节点的应用。此外,还演示了自定义解释器解析HTML文件的方法。
摘要由CSDN通过智能技术生成

from lxml import etree

#https://mirrors.aliyun.com/pypi/simple/   python仓库

wb_data = """

    <div>

        <ul>

            <li class="item-0"><a href="link1.html">first item</a></li>

            <li class="item-1"><a href="link2.html">second item</a></li>

            <li class="item-inactive"><a href="link3.html">third item</a></li>

            <li class="item-3"><a href="link4.html">fourth item</a></li>

            <li class="item-4"><a href="link5.html">fifth item</a></li>

        </ul>

    </div>   

          """

 

#将变量读取为HTML对象,自动添加<html><body>... ...</body></html>

html=etree.HTML(wb_data)

 

#解析数据 /是根节点

data=html.xpath('/html')

//子孙节点

data2=html.xpath('//li')  li标签可以在任意节点

获取a标签里的内容1

data3=html.xpath('/html/body/div/ul/li/a/text()')

获取class属性的属性值

data5=html.xpath('/html/body/div/ul/li/@class')

 

for in data

    print(i)

获取a标签里的内容2

data4=html.xpath('/html/body/div/ul/li/a')

获取所有href属性中带有link2.html属性值的标签的内容

data8=html.xpath('//ul/li/a[@href="link2.html"')

 

 

for in data4:

    print(i.text)

获取a标签的href属性的属性值

data6=html.xpath('/html/body/div/ul/li/a')

for in data6:

    a=i.xpath('./@href')

    print(a)

获取第一个和最后一个li标签的地址

#这里data7是一个list 电脑不知道ul有几个,就将ul标签当做多个ul处理,多个ul就是列表

data7=html.xpath('/html/body/div/ul')

for in data7:

    li_1=i.xpath('./li[1]')

    print(li_1)

    li_last=i.xpath(./li[last()]')

    print(li_last)

 

*位置节点,匹配所有li标签下的有text的标签的内容

data=html.xpath('//ul/li/*')

for in data:

    if hasattr(i,'text'):

        print(i.text)

    else:

        print(i)

 

#自定义解释器,解析html文件

parser=etree.HTMLParser(encoding='utf-8') 默认解析xml文档

html_file=etree.parse('aliyun.html',parser=parser)

匹配任意节点,带有text的内容

data=html_file.xpath('//*')

for in data:

    if hasattr(i,'text'):

        print(i.text)

 

获取a链接href的属性值为link2.html的内容"

html_file=etree.parse('hh.html',parser=parser)

data=html_file.xpath('//li/a[@href="link2.html"]/text()')

print(data)

 

获取a链接href的属性的值

data=html_file.xpath('//li/a/@href')

print(data)

 

谓语

获取最后一个a链接的内容

data=html_file.xpath('//li[last()]/a/text()')

print(data)

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值