scrapy.Spider中close方法的作用

在scrapy中,需要实现的爬虫类都需要继承scrapy.Spider类,其中的源码解析:

class Spider(object_ref):
    name = None #爬虫的名字,spider的名字定义了Scrapy如何定位(并初始化)spider
    custom_settings = None #当启动spider时,该设置将会覆盖项目级的相同设置.

    def __init__(self, name=None, **kwargs):
        # 如果爬虫没有名字,中断后续操作则报错
        if name is not None:
            self.name = name
        elif not getattr(self, 'name', None):
            raise ValueError("%s must have a name" % type(self).__name__)
        self.__dict__.update(kwargs)
        if not hasattr(self, 'start_urls'):
            # python对象或类型通过内置成员__dict__来存储对象的属性和方法等信息
            self.start_urls = [] 
# 是Scrapy用来创建爬虫的类方法。
@classmethod
 def from_crawler(cls, crawler, *args, **kwargs):
    spider = cls(*args, **kwargs)
    spider._set_crawler(crawler)
    return spider
    • 0
      点赞
    • 0
      收藏
      觉得还不错? 一键收藏
    • 0
      评论
    评论
    添加红包

    请填写红包祝福语或标题

    红包个数最小为10个

    红包金额最低5元

    当前余额3.43前往充值 >
    需支付:10.00
    成就一亿技术人!
    领取后你会自动成为博主和红包主的粉丝 规则
    hope_wisdom
    发出的红包
    实付
    使用余额支付
    点击重新获取
    扫码支付
    钱包余额 0

    抵扣说明:

    1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
    2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

    余额充值