(最新)Scrapy修改开始时间,完成时间,消耗时间和总数

(最新)Scrapy修改开始时间,完成时间,消耗时间和总数

  • 打开自己安装的python路径
    就是你的python.exe安装路径
    请找到下面路径:

xxx\Lib\site-packages\scrapy\extensions
在这个路径下面找到 corestats.py 这个文件并双击打开

  • 这是原先的代码
    如有不同是scrapy版本不同,但是代码功能大同小异

  • 修改为
    如若和上图一样,可直接替换这俩方法

  • 所修改的代码为:

在这里插入代码片
def spider_opened(self, spider):
    self.start_time = datetime.now()
    self.stats.set_value('start_time', self.start_time.strftime("%Y-%m-%d %H:%M:%S"), spider=spider)

def spider_closed(self, spider, reason):
    finish_time = datetime.now()
    elapsed_time = finish_time - self.start_time
    elapsed_time_seconds = elapsed_time.total_seconds()
    self.stats.set_value('elapsed_time_seconds', elapsed_time_seconds, spider=spider)
    self.stats.set_value('finish_time', finish_time.strftime("%Y-%m-%d %H:%M:%S"), spider=spider)
    self.stats.set_value('finish_reason', reason, spider=spider)

    #这是计算此时运行耗费多长时间,特意转化为 时:分:秒
    Total_time=int((finish_time-self.start_time).total_seconds())
    m, s = divmod(Total_time, 60)
    h, m = divmod(m, 60)
    self.stats.set_value('Total_time', "共耗时===>%d时:%02d分:%02d秒" % (h, m, s), spider=spider)

def item_scraped(self, item, spider):
    self.stats.inc_value('共获得item_scraped_count', spider=spider)
  • 呈现结果:
    总耗时
    总数量
    开始时间
    结束时间
  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值