下载中间件的学习

中间件

爬虫中间件

下载中间件(常见)

我们可能会需要一些在下载中间件中对我们的请求和响应,做一些自定义的处理

使用方法

编写一个Downloader Middlewares和我们编写一个pipeline一样,定义一个类,然后在settings中开启

# Enable or disable downloader middlewares
# See https://docs.scrapy.org/en/latest/topics/downloader-middleware.html

# 开启下载中间件
DOWNLOADER_MIDDLEWARES = {
   
   'xjie.middlewares.XjieDownloaderMiddleware': 543,
    # 键-我们要使用的类的位置
    # 值-权重,表示距离引擎的距离,即是数据是否会预先经过它
}

在这里插入图片描述

下载中间件中一些常见的方法

前言

我们下载中间件的位置处于引擎和下载器的中间,因此,引擎传过去的request对象会经过下载中间件,下载器请求完之后的响应也会经过下载中间件。

处理请求和处理响应

处理请求&处理响应

process_request(self,request,spider)

处理请求
当每个request通过下载中间件时,该方法被调用

    def process_request(self, request, spider):
        # request
        # spider指的是当前是哪个爬虫发送过来的request对象

        # Called for each request that goes through the downloader
        
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值