Logparser
简介
-
在scrapyweb中解析scrapyd的日志
-
logparser库的工作原理是每隔一段时间(默认10s)查看一下日志文件夹,然后解析,并生成stats.json文件。scrapyd在开启了端口后可以访问scrapyd的目录,因此可以在不修改scrapyd的情况下对日志解析
使用
安装
pip install logparser
或者
git clone https://github.com/my8100/logparser.git
cd logparser
python setup.py install
作为service运行
通过命令启动
logparser
查看当前状态
http://127.0.0.1:6800/logs/stats.json
获取某个爬虫人物的日志分析详情
http://127.0.0.1:6800/logs/projectname/spidername/jobid.json