Eclipse配置scrapy工程

最近毕业设计选的是python网络爬虫,python现成的爬虫模块有很多,scrapy,bs4等等,但是我参考的教科书上面说scrapy参考文献较多,也比较简单,便决定用这个模块来做爬虫。书中的工程是用linux终端来做爬虫,但是本人linux小白,而且更加倾向于用windows平台下的Eclipse来新建项目,所以只能自己慢慢摸索着在Eclipse中配置scrapy项目。

1.因为Eclipse中暂不支持直接创建scrapy项目,所以我们要用cmd命令行来新建一个scrapy项目


可以看到,用scrapy startproject +项目名这条命令创建完一个初始的scrapy项目(此时该项目只是一个scrapy模板,并不含爬虫文件)后scrapy模块很贴心的给出了提示,我们可以通过cd Scrapy和 scrapy genspider example example.com这两条命令在已有的scrapy模板下新建爬虫文件(一开始项目中有个spiders文件夹,其中该文件夹一开始的时候只有__init__.py这个文件,运行命令后出现了example.py这个文件,其中example.com是用来给该文件中的根URL初始化)。

2.在Eclipse中新建一个pydev项目,并将我们用cmd创建的scrapy项目复制到pydev项目中。这时,项目是无法运行的,因为eclispe是不知道从哪启动scrapy项目的 ,我们需要新建一个cmdline.py文件(跟items.py同目录)

其中argv

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值