1.1使用xpath爬取网站图片

如下面简单代码爬取某网站1-100页的图片到本地

以下是我的一些代码,小白轻喷

import os.path
import lxml
from lxml import etree
import requests

if __name__ == '__main__':
    if not os.path.exists('./image'):
        os.mkdir('./image')
    head = {
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/118.0.0.0 Safari/537.36 Edg/118.0.2088.46'}
    url = 'https://pic.netbian.com/4kdongman/index_%s.html'
    for i in range(1, 101):
        new_url = format(url % i)
        resp_text = requests.get(new_url, headers=head).text
        tree = etree.HTML(resp_text)
        contain = tree.xpath("//div/ul/li/a/img/@src")
        # 获取src拼接url
        for img in contain:
            img_url = 'https://pic.netbian.com' + img
            # print(img_url)
            img_resp = requests.get(img_url, headers=head).content
            filename = img_url.split('/')[-1]
            # print(filename)
            filepath = './image/' + filename
            with open(filepath, 'wb') as ws:
                ws.write(img_resp)
        print("第{}页爬取成功".format(i))

 

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值