Scrapy爬虫基础

本文介绍了Scrapy的安装步骤,包括在Windows和Linux/Unix环境下如何使用pip安装,并强调了Python3的必要性。此外,还概述了Scrapy的核心原理,为编写能运行Scrapy基础流程的爬虫奠定了基础。
摘要由CSDN通过智能技术生成

第1关:Scarpy安装与项目创建

任务描述
本关任务:借助Scrapy框架编写一个最基本的爬虫小程序,掌握Scrapy的基础理论和使用。

相关知识
Scrapy安装与新建项目
Windows下安装
由于 Python 官方已经宣布在 2020 年停止对 Python2 的支持,因此本教程的相关 Python 操作均是在 Python3 下进行的,请确保所使用的电脑上已安装 Python3。
在 Windows 环境下,如果安装好了 Python3 ,可以借助 pip 进行 Scrapy 进行安装:

pip install scrapy
由于 Scrapy 依赖 Wheel、Twisted、Pillow 等第三方包,所以安装过程中很可能会由于依赖缺失而导致安装失败,这时可以根据提示依次进行各依赖的安装并最终完成 Scrapy 的安装。

Linux/Unix下安装
同样的请先确保安装了 Python3,之后需要在命令行下执行:

pip3 install scrapy
如果出现类似于ModuleNotFoundError: No module named ‘twisted.persisted’ 等由于依赖缺失导致的报错,请先使用pip install命令完成相应依赖的安装,之后即可完成 Scrapy 的安装。


                
  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Ssaty.

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值