python利用Pycharm来运行调试Scrapy框架程序

Scrapy是著名的爬虫框架,Pycharm是强大的Python IDE ,为了方便调试Scrapy框架写的程序,然后需要配置下Pycharm。

具体配置截图如下:

1.给需要调试的类关联脚本



2.下面截图是爬虫脚本,可以输出多种格式的数据


强调一点,要注意begin.py这个脚本的文件目录,如上图,工程中的文件路径所示。

from scrapy import cmdline
#需要输出那种格式的数据,打开哪个命令前的注释
#编译执行
#cmdline.execute("scrapy crawl amazondetail" .split())
#输出json数据
#cmdline.execute("scrapy crawl amazondetail -o ductdetail.json" .split())
#输出excle表格数据
cmdline.execute("scrapy crawl amazondetail -o LJductdetail.csv -t csv" .split())


3. 断点调试(截图为我抓取的某电商的数据)





  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值