网络爬虫之框架 5-1 Scrapy爬虫框架

文章截图均来自中国大学mooc Python网络爬虫与信息提取的教程,以上仅作为我的个人学习笔记。下面是教程链接:

https://www.icourse163.org/learn/BIT-1001870001?tid=1450316449#/learn/content?type=detail&id=1214620493&cid=1218397635&replay=true


Scrapy爬虫框架介绍:

使用:pip install srcapy 进行安装

安装后小测:执行 scrapy -h

Scrapy不是一个简单的函数功能库,而是一个爬虫框架

爬虫框架:

  • 是实现爬虫功能的一个软件结构和功能组件的集合
  • 爬虫框架是一个半成品,可以帮助用户实现专业网络爬虫

Scrapy爬虫框架的内容:5+2结构

Scrapy爬虫框架的解析:

Requests和Scrapy的比较:

      

选择角度:

Scrapy爬虫的常用命令:

为什么Scrapy爬虫框架为什么采用命令行创建和运行爬虫:

单元小结:

5+2结构

三个数据流的路径

和Requests库的不同与择优

命令行

 

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值