多进程爬取P站图片

# coding=utf-8
import requests
from lxml import etree
import os
import time
# 导入线程池包
from concurrent.futures import ProcessPoolExecutor
import random
"""
这里我们直接爬取P站图片内容。

排行榜原始地址
https://i.pximg.net/  c/240x480 /img-master/img/2021/04/14/00/00/04/89135748_p0_master1200.jpg
高清图原始地址
https://i.pximg.net/           img-master/img/2021/04/14/00/00/04/89135748_p0_master1200.jpg
页码XHR
https://www.pixiv.net/ranking.php?p=2&format=json
"""


def get_content(url=None, s_type=None, name=None):
    headers = {
        "User-Agent":
        "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.128 Safari/537.36 Edg/89.0.774.77",
        "referer":
        "https://www.pixiv.net/ranking.php?mode=daily&content=illust"
    }
    session = requests.Session()
    response = session.get(url=url, headers=headers)
  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值