python的scrapy爬虫模块间进行传参_Python爬虫Scrapy框架之请求传参合日志等级

一 请求传参

在某种情况下，我们要爬取的数据会在不同的页面中。例如：我们爬取一个电影的网站时，电影的评分和名称在第一个页面中，而要爬取的电影详情在其的子页面中。这时我们就需要动态传参来实现。

需求： 爬取https://www.4567tv.tv/frim/index1.html中的电影名和导演名称

# -*- coding: utf-8 -*-

import scrapy

from moviePro.items import MovieproItem

#请求传参 重点*****

#item不能是全局的

class MovieSpider(scrapy.Spider):

name = 'movie'

# allowed_domains = ['www.xxx.com']

start_urls = ['https://www.4567tv.tv/frim/index1.html']

#模拟parse来写

def parse_detail(self,response):

#通过response 来获取回调函数传递过来的item

item = response.meta['item']

actor = response.xpath('/html/body/div[1]/div/div/div/div[2]/p[3]/a/text()').extract_first()

item['actor'] =actor

#提交item

yield item

#item 写在这 因为parse中的request 才能实现请求传参

def parse(self, response):

li_list = response.xpath('//li[@class="col-md-6 col-sm-4 col-xs-3"]')

for li in li_list:

item = MovieproItem()

name = li.xpath('./div/a/@title').extract_first()

detail_url = 'https://www.4567tv.tv'+li.xpath('./div/a/@href').extract_first()

#发送的为get请求 callback 是一个回调函数

item['name']=name

#meta是一个字典类型 将item传递给回调函数的response参数(也就是回调方法) 请求传参

yield scrapy.Request(url=detail_url,callback=self.parse_detail,meta={'item':item})

items文件

import scrapy

class MovieproItem(scrapy.Item):

# define the fields for your item here like:

name = scrapy.Field()

actor = scrapy.Field()

二 Scrapy中的日志等级

在使用scrap crawl filename运行程序时，在终端打印输入的就是Scrapy日志信息

日志信息的种类：

​ ERROR:一般错误

​ WARIING:警告

​ INFO:一般信息

​ DEBUG：调试信息

设置日志指定输入：

在settings.py配置文件中，加入：

LOG_LEVEL ='指定日志信息的种类即可'

LOG_FILE = 'log.txt'表示的是将日志信息写入到指定的文件中进行存储

如何提高Scrapy的爬取效率：

增加并发：

默认scrapy开启的并发线程为32个，可以适当进行增加。在settings配置文件中修改CONCURRENT_REQUESTS = 100值为100,并发设置成了为100

降低日志等级

在运行scrapy时，会有大量日志信息的输出，为了减少CPU的使用率。可以设置log输出信息为INFO或者ERROR即可。在配置文件中编写：LOG_LEVEL = ‘INFO’

禁止cookie：

如果不是真的需要cookie，则在scrapy爬取数据时可以进制cookie从而减少CPU的使用率，提升爬取效率。在配置文件中编写：COOKIES_ENABLED = False

禁止重试：

对失败的HTTP进行重新请求(重试)会减慢爬取速度，因此可以禁止重试。在配置文件中编写：RETRY_ENABLED = False

减少下载超时：

如果对一个非常慢的链接进行爬取，减少下载超时可以能让卡住的链接快速被放弃，从而提升效率。在配置文件中进行编写：DOWNLOAD_TIMEOUT = 10 超时时间为10s