【Scrapy】不同的Request请求,自己选择中间件进行过滤。scrapy指定某一个请求使用selenium模拟加载。

问题描述:Scrapy爬虫里,不同的Request请求,根据需求来选择不同的中间件进行过滤。
举例:scrapy爬虫时,有些请求需要借助selenium,但是其他请求不需要用selenium,那如何让某一个单独的请求使用selenium这个中间件?
解决方法:简单讲,用好meta这个参数进行传参。
第一步:先准备好一个selenium中间件

在这里插入图片描述

第二步:全局开启selenium中间件

在这里插入图片描述

第三步:爬虫文件里,哪个文件需要使用selenium,指定好meta参数

在这里插入图片描述
是不是很简单~~ 只要在原有代码上,添加meta参数就可以咯!

  • 5
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值