多线程下载图片爬虫

import requests
from lxml import etree
import os
from concurrent.futures import ThreadPoolExecutor

def getting_page(url):
    headers = {
        "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/90.0.4430.93 Safari/537.36"
    }
    resp = requests.get(url,headers=headers)
    #数据解析
    html = etree.HTML(resp.text)
    lis = html.xpath("/html/body/div[2]/div/div[3]/ul/li")
    for li in lis:
        img_src = "https://pic.netbian.com"+li.xpath("./a/img/@src")[0]
        img_name = li.xpath('./a/img/@alt')[0] + '.jpg'
        img_name = img_name.encode('iso-8859-1').decode('gbk')
    # 可持续化存储
        img_data = requests.get(img_src, headers=headers).content
        img_path = 'plmm/' + img_name
        with open(img_path,"wb") as f:
            f.write(img_data)
            print(img_name,"下载完成!")

# 创建一个文件夹存储图片
if not os.path.exists('./plmm'):
    os.mkdir('./plmm')

if __name__ == '__main__':
    with ThreadPoolExecutor(40) as t:
        for i in range(1,50): #爬取1到49页的图
            #将下载任务交给线程池
            t.submit(getting_page,f"https://pic.netbian.com/4kmeinv/index_{i}.html")
    print("全部下载完成")
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值