【Python】Python入门—实现scrapy爬虫每天定时抓取数据

1. 前言。

1.1. 需求背景。

每天抓取的是同一份商品的数据，用来做趋势分析。
要求每天都需要抓一份，也仅限抓取一份数据。
但是整个爬取数据的过程在时间上并不确定，受本地网络，代理速度，抓取数据量有关，一般情况下在20小时左右，极少情况下会超过24小时。
1.2. 实现功能。

通过以下三步，保证爬虫能自动隔天抓取数据：
每天凌晨00：01启动监控脚本，监控爬虫的运行状态，一旦爬虫进入空闲状态，启动爬虫。一旦爬虫执行完毕，自动退出脚本，结束今天的任务。一旦脚本距离启动时间超过24小时，自动退出脚本，等待第二天的监控脚本启动，重复这三步。
小编是一名python开发工程师，这里有我自己整理了一套最新的python系统学习教程，包括从基础的python脚本到web开发、爬虫、数据分析、数据可视化、机器学习等。想要这些资料的可以关注小编，并在后台私信小编：“01”即可领取
2. 环境。

python 3.6.1
系统：win7
IDE：pycharm
安装过scrapy
3. 设计思路。

3.1. 前提：目前爬虫是通过scrapy模块自带的cmdline.execute来启动的。

from scrapy import cmdline
cmdline.execute(‘scrapy crawl mySpider’.split())12
3.2. 将自动执行脚本做到scrapy爬虫的外部

（1）每天凌晨00：01启动脚本（控制脚本的存活时间为24小时），监测爬虫的运行状态（需要用一个标记信息来表示爬虫的状态：运行还是停止）。
如果爬虫处于运行状态（前一天爬取数据尚未结束），进入第（2）步；如果爬虫处于非运行状态（前一天的爬取任务已完成，今天的尚未开始），进入第（3）步；
（2）脚本进入等待阶段，每隔10分钟，检查一下爬虫的运行状态，如（1）。但是一旦发现，脚本的等待时间超过了24小时，则自动退出脚本，因为第二天的监测脚本