CentOS6.5安装Scrapy

1、安装命令超级简单：

[root@mycentos ~]# pip install Scrapy

建立软链接： 

[root@mycentos ~]# ln -s /usr/local/python3/bin/scrapy /usr/bin/scrapy

  

2、但是Scrapy有6个依赖的python包：

• lxml ，一个高效的XML和HTML解析器
• parsel ， 一个基于 lxml 的 HTML / XML 数据提取库
• w3lib ，一个用于处理URL和网页编码的多用途助手
• twisted， 一个异步的网络框架
• cryptography 和 pyOpenSSL ，以处理各种网络级安全需求

Scrapy 经过测试支持的最低版本为：

• Twisted 14.0
• lxml 3.4
• pyOpenSSL 0.14

 

3、以安装Twisted为例

下载安装包Twisted-18.7.0.tar.bz2：https://pypi.org/project/Twisted/

接下来：

[root@mycentos ~]# tar jxvf Twisted-18.7.0.tar.bz2
[root@mycentos ~]# cd Twisted-18.7.0
[root@mycentos Twisted-18.7.0]# python3 setup.py build
[root@mycentos Twisted-18.7.0]# python3 setup.py install

安装完毕！