python xpath定位不到_python3中使用xpath无法定位,为什么一直返回空列表?

在使用Scrapy爬取网站时,遇到xpath定位 tbody 的问题,虽然在工具中显示正确,但在代码中返回空列表。原因在于浏览器自动规范化HTML,添加了tbody,解决方案是直接去除路径中的tbody。此外,文章还提到了Python glob函数返回空列表的原因,以及在Selenium和UiAutomator2中使用XPath进行元素定位的方法。
摘要由CSDN通过智能技术生成

tbody问题:

在爬去某些网站一些信息的时候,xpath工具上显示类容是正确的,但是在scrapy代码中一直返回空列表

Scrapy的部分代码:

class LotteryspiderSpider(scrapy.Spider):

#爬虫名字

name = 'LotterySpider'

#允许的域名

allowed_domains = ['www.lottery.gov.cn']

#入口URL,扔到调度器

start_urls = ['http://www.lottery.gov.cn']

def parse(self, response):

print(response.text)

lottery_list = response.xpath('//div[@class="b11_06"]//tbody')

网页上显示:

爬到本地全部类容中 //div[@class="b11_06"]少了tbody

玩法

经查询得知原因是:浏览器会对html文本进行一定的规范化,所以会自动在路径中加入tbody,导致读取失败,在此处直

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值