xpath爬取图片数据的尝试

这是一个xpath爬取图片数据的简单模型:

import requests
from lxml import etree
import os

headers={
	"User-Agent":"这里写自己的user-agent"
	#如果需要登录,要加一行cookie
}

if not os.path.exists("./xxx"):
	os.mkdir("./xxx")# 创建文件夹
j=1#代表爬取的图片数
for x in range(1,11):# x为爬取页数
	url=f"https://。。。。。。。{x}.html"# 这里选择爬取的网页
	page_text=requests.get(url=url,headers=headers).text#获得网页数据

	tree=etree.HTML(page_text)# 创建etree对象

	list=tree.xpath('//ul[@class="pli"]/li')#将li标签里的图片链接添加到list里。这里的XPath路径需要具体分析

	for i in list:
		img_src="http:"+i.xpath('./div//img/@src')[0]#这里也要具体分析
		img_name=i.xpath('./div//img/@alt')[0]+f'{j}'+".jpg"#j是为了防止图片重名被覆盖
	
		img_data=requests.get(url=img_src,headers=headers).content
		img_path='xxxx/'+img_name#图片名
		with open(img_path,'wb')as fp:
			fp.write(img_data)
			print(img_name,"爬取成功!")
			j+=1
#注意:如果返回[],大概率是url或XPath路径错误,小概率为被反爬。注意辨别。
#注意:XPath路径中如果有tbody,不要写。

这是一个XPath爬取图片数据的小模板,在此记录一下,如有错误,请大佬们指正!

  • 2
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 2
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值