scrapy框架的安装
- pip install wheel
- 下载twisted,下载地址为http://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted
- pip install pywin32
- pip install scrapy
- 测试:在终端里录入scrapy指令,没有报错即表示安装成功!。
安装过程中遇见的错误
- ‘scrapy’ 不是内部或外部命令,也不是可运行的程序
因为没有配置系统变量
解决办法
在编辑中添加scrapy的地址即可
项目的创建
-
scrapy startproject xxxPro
项目的创建
-
在spiders子目录中创建一个爬虫文件
1. 在创建前先进入FirstName
---------cd cd xxxPro
2. scrapy
代码如下:scrapy genspider spiderName www.xxx.com 其中spiderName是所创建的名字
3.创建文件的内部结构
4.成功执行