xpath爬取猪八戒网小计

放码为观:

# 导入 lxml 库中的 etree,用于解析 HTML 文档
from lxml import etree
# 导入 requests 库,用于发送 HTTP 请求
import requests
# 导入 time 和 random,用于请求之间的随机延时(防止被反爬)
import time
import random

# 目标网址,这里是猪八戒网关于“爬虫”服务的搜索结果页
url = "https://www.zbj.com/fw/?k=爬虫"

# 向目标网址发送 GET 请求,获取响应内容
resp = requests.get(url)

# 使用 lxml 的 etree 解析返回的 HTML 文本
html = etree.HTML(resp.text)

# 使用 XPath 提取服务卡片的最外层 <div> 元素集合
# 注意:此 XPath 路径非常依赖页面结构,容易因页面改动而失效
divs = html.xpath('//*[@id="__layout"]/div/div[3]/div[1]/div[4]/div/div[2]/div/div[2]/div')

# 遍历每一个服务卡片 div
for div in divs:
    # 提取价格信息,并去除“¥”符号
    price = div.xpath('./div/div[3]/div[1]/span/text()')[0].strip("¥")

    # 提取服务标题文本内容,有可能分为多个 <span>,用“爬虫”将它们拼接起来
    title = "爬虫".join(div.xpath('./div/div[3]/div[2]/a/span/text()'))

    # 提取公司名称
    com_name = div.xpath('./div/div[5]/div/div/div/text()')[0]

    # 打印出每条服务的信息:价格、标题、公司名
    print(price, title, com_name)

    # 可以取消注释,添加请求间的随机延迟,降低被封IP的风险
    # time.sleep(random.uniform(1, 3))

运行结果如下:

有什么疑问尽可提出,大家一起交流\(^o^)/~

喜欢笔者的话(笔者对小概率事件发生仍怀有期待),下次再见!

[(づ ̄3 ̄)づ╭❤~]

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值