写在前面:
为了抓取数据,打算学习python的scrapy框架写爬虫,能用爬虫抓取到数据利用它们就算达到目的了,哈哈。
注:学习资料为scrapy的中文文档,链接http://scrapy-chs.readthedocs.io/zh_CN/latest/intro/tutorial.html,特地写下学习笔记
scrapy安装:
我使用的ubuntu系统,直接输入:
sudo pip install scrapy 即可
如果有问题,尝试在用pip安装之前,先来一条这样的命令安装一下依赖:
sudo apt-get install python-dev python-pip libxml2-dev libxslt1-dev zlib1g-dev libffi-dev libssl-dev
注意:根据文档,不要使用
sudo apt install python-scrapy
来安装scrapy,即不要使用ubuntu的安装包。