1、直接安装scrapy一般会出现错误
pip install scrapy 会出现以下错误:
Command "d:\anaconda\python.exe -u -c "import setuptools, tokenize;__file__='C:\\Users\\95\\AppData\\Local\\Temp\\pip-install-tfqwb8
5p\\Twisted\\setup.py';f=getattr(tokenize, 'open', open)(__file__);code=f.read().replace('\r\n', '\n');f.close();exec(compile(code,
__file__, 'exec'))" install --record C:\Users\95\AppData\Local\Temp\pip-record-era9yqpz\install-record.txt --single-version-external
ly-managed --compile" failed with error code 1 in C:\Users\95\AppData\Local\Temp\pip-install-tfqwb85p\Twisted\
这种错误一般是由于没有安装twisted造成的,解决办法:
到https://www.lfd.uci.edu/~gohlke/pythonlibs下载与自己的python对应的Twisted版本即可,下好后,在终端下跳转到对应目录pip install Twisted-18.9.0-cp36-cp36m-win_amd64.whl即可;
再用pip install scrapy即可
2、在终端中创建scrapy项目
scrapy startproject db # db为项目名称
scrapy genspider db1 baidu.com # db1为spider文件的名字,baidu.com为域名
# 简单歇一些代码后,尝试运行db1.py文件
scrapy crawl db1
如果没有报错,那恭喜你;
如果出现一下错误:
builtins.ModuleNotFoundError: No module named "win32api"
,此时请大家保持耐心,马上就成功了(最后一步):
pip install pywin32
再次执行
scrapy crawl db1
即可。