linux下scrapy环境搭建

本文详细介绍了在Ubuntu 14.04系统中如何安装Scrapy 1.0.5、解决依赖问题,以及安装MongoDB 3并进行权限设置。内容包括MongoDB的安装、用户权限管理、设置守护进程,Scrapy爬虫的编写,以及如何将爬虫结果存储到MongoDB,并通过crontab设置定时任务。
摘要由CSDN通过智能技术生成

最近使用scrapy做数据挖掘,使用scrapy定时抓取数据并存入MongoDB,本文记录环境搭建过程以作备忘
OS:ubuntu 14.04 python:2.7.6 scrapy:1.0.5 DB:MongoDB 3
ps.ubuntu14.04内置python2.7,因此python及pip安装不再赘述。

一.安装scrapy
  pip install Scrapy
  由于scrapy相关依赖较多,因此在安装过程中可能遇到如下问题:
1.ImportError: No module named w3lib
解决:pip install w3lib 
  2.ImportError: No module named twisted
    解决:pip install twisted
  3.ImportError: No module named lxml.html
    解决:pip install lxml
  4.error: libxml/xmlversion.h: No such file or directory
    解决:apt-get install libxml2-dev libxslt-dev
       apt-get install python-lxml
  5.ImportError: No module named cssselect
    解决:pip install cssselect
  6.ImportError: No module named OpenSSL
    解决:pip install pyOpenSSL
  

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值