Scrapy

1. scrapy的概念
Scrapy是一个为了爬取网站数据,提取结构性数据而编写的应用框架,我们只需要实现少量的代码,就能够快速的抓取。
Scrapy 使用了Twisted['twɪstɪd]异步网络框架,可以加快我们的下载速度。
Scrapy文档地址:http://scrapy-chs.readthedocs.io/zh_CN/1.0/intro/overview.html

2. scrapy框架的作用

少量的代码,就能够快速的抓取

3. scrapy的352构成
3.1 scrapy的三个内置对象

request请求对象:由url method post_data headers等构成
response响应对象:由url body status headers等构成
item数据对象:本质是个字典

3.2 scrapy中每个模块的具体作用
五个核心模块和2个中间件

在这里插入图片描述

爬虫中间件和下载中间件只是运行逻辑的位置不同,作用是重复的:如替换UA等

3.4scrapy的流程

在这里插入图片描述

其流程可以描述如下:

	爬虫中起始的url构造成request对象-->爬虫中间件-->引擎-->调度器
	调度器把request-->引擎-->下载中间件--->下载器
	下载器发送请求,获取response响应---->下载中间件---->引擎--->爬虫中间件--->爬虫
	爬虫提取url地址,组装成request对象---->爬虫中间件--->引擎--->调度器,重复步骤2
	爬虫提取数据--->引擎--->管道处理和保存数据

注意:

图中中文是为了方便理解后加上去的
图中绿色线条的表示数据的传递
注意图中中间件的位置,决定了其作用
注意其中引擎的位置,所有的模块之前相互独立,只和引擎进行交互

运行示例代码

要完成scrapy爬虫需要实现以下四个步骤:

	创建一个scrapy项目:scrapy startproject mySpider
	生成一个爬虫:scrapy genspider itcast "itcast.cn
	提取数据:完善spider,使用xpath等方法
	保存数据:pipeline中保存数据

创建scrapy项目

scrapy是一个第三方包需要额外安装:pip install scrapy
创建scrapy项目的命令:scrapy startproject +<项目名字>

示例:scrapy startproject myspider

生成的目录和文件结果如下:

在这里插入图片描述

创建爬虫

创建爬虫的命令

在项目路径下执行:scrapy genspider +<爬虫名字> + <允许爬取的域名>
示例:

cd myspider
scrapy genspider itcast itcast.cn

生成的目录和文件结果如下:

在这里插入图片描述

在/myspider/myspider/spiders/itcast.py中修改内容如下:

import scrapy

class ItcastSpider(scrapy.Spider):  # 继承scrapy.spider
    # 爬虫名字 
    name = 'itcast' 
    # 允许爬取的范围
    allowed_domains = ['itcast.cn'] 
    # 开始爬取的url地址
    start_urls = ['http://www.itcast.cn/channel/teacher.shtml']

    # 数据提取的方法,接受下载中间件传过来的response
    def parse(self, response): 
        # scrapy的response对象可以直接进行xpath
        names = response.xpath('//div[@class="tea_con"]//li/div/h3/text()') 
        print(names)

        # 获取具体数据文本的方式如下
        # 分组
        li_list = response.xpath('//div[@class="tea_con"]//li') 
        for li in li_list:
            # 创建一个数据字典
            item = {}
            # 利用scrapy封装好的xpath选择器定位元素,并通过extract()或extract_first()来获取结果
            item['name'] = li.xpath('.//h3/text()').extract_first() # 老师的名字
            item['level'] = li.xpath('.//h4/text()').extract_first() # 老师的级别
            item['text'] = li.xpath('.//p/text()').extract_first() # 老师的介绍
            print(item)

运行爬虫

命令:在项目目录下执行scrapy crawl +<爬虫名字>
示例:scrapy crawl itcast

定位元素以及提取数据、属性值的方法
解析并获取scrapy爬虫中的数据: 利用xpath规则字符串进行定位和提取

1.response.xpath方法的返回结果是一个类似list的类型,其中包含的是selector对象,操作和列表一样,但是有一些额外的方法
2.额外方法extract():返回一个包含有字符串的列表
3.额外方法extract_first():返回列表中的第一个字符串,列表为空没有返回None

response响应对象的常用属性

response对象除了具有xpath函数以外还有一些常用的属性,如下:

response.url:当前响应的url地址
response.request.url:当前响应对应的请求的url地址
response.headers:响应头
response.requests.headers:当前响应的请求头
response.body:响应体,也就是html代码,byte类型
response.status:响应状态码

管道的简单使用

利用管道pipeline来处理(保存)数据

对itcast爬虫进行修改完善

在爬虫文件itcast.py中parse()函数中最后添加

yield item
思考:为什么要使用yield?
让整个函数变成一个生成器

遍历这个函数的返回值的时候,挨个把数据读到内存,不会造成内存的瞬间占用过高,python3中的range和python2中的xrange同理
注意:解析函数中的yield能够传递的对象只能是:BaseItem, Request, dict, None

修改pipelines.py文件

import json

class ItcastPipeline():
    # 爬虫文件中提取数据的方法每yield一次item,就会运行一次
    # 该方法为固定名称函数
    def process_item(self, item, spider):
        print(item)

在settings.py设置开启pipeline

	ITEM_PIPELINES = {
	    'myspider.pipelines.ItcastPipeline': 400
	}

小结

scrapy的安装:pip install scrapy
创建scrapy的项目: scrapy startproject myspider
创建scrapy爬虫:在项目目录下执行 scrapy genspider itcast itcast.cn
运行scrapy爬虫:在项目目录下执行 scrapy crawl itcast

解析并获取scrapy爬虫中的数据:

		response.xpath方法的返回结果是一个类似list的类型,其中包含的是selector对象,操作和列表一样,但是有一些额外的方法
		extract() 返回一个包含有字符串的列表
		extract_first() 返回列表中的第一个字符串,列表为空没有返回None
scrapy管道的基本使用:

		完善pipelines.py中的process_item函数
		在settings.py中设置开启pipeline
		
response响应对象的常用属性

		response.url:当前响应的url地址
		response.request.url:当前响应对应的请求的url地址
		response.headers:响应头
		response.requests.headers:当前响应的请求头
		response.body:响应体,也就是html代码,byte类型
		response.status:响应状态码
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值