putty -load ubuntu直接命令行进入putty
1。先删除3个文件,恢复运行前初始状态
rm workspace/*.log
rm workspace/*.h5
rm workspace/jobs/*
这个也可能没有文件
rm mprofile_20170630073530.dat
删除dat文件,可删可不删
2、
编辑py文件,比如注释掉某一行
vi crawlers/spiders/dbgroup.py
3、
可通过如下命令获取帮助:
history |grep prof 还是
history |grep mprof
执行爬虫
mprof run ~/miniconda3/envs/intel/bin/scrapy crawl dbgroup
(之前直接scrapy crawl dbgroup 会有错说crawl是不知道的命令,应该进到该项目文件夹里面执行该条命令,而不是在workspace里面)
4、
关掉线程
kill -9 线程id
最后
mprof plot打印出内存增长图
vi workspace/crawl.log查看日志文件
mprof可提示可用命令
sudo apt-get install nmon安装nmon
执行nmon命令。他就开始运行了,可以监控内存和cpu
top 命令查看各个应用的cpu和内存占有率