最近老是给boss报告财务数据,每天都是重复性的工作, 于是针对scrapy写了一个定时爬虫的程序main.py ,直接放在scrapy的存储代码的目录中就能设定时间定时多次执行。
直接使用Timer类
import time
import os
while True:
os.system("scrapy crawl '你的爬虫名字'")
time.sleep(60)
#每隔一天运行一次就是 24*60*60=86400s,我这里是60s,自己根据需要选择时间
这样就搞定啦!