Scrapy下载文件

Scrapy下载文件

Scrapy框架提供了两个Item Pipeline专门用来下载文件和图片:
* FilesPipeline
* ImagesPipeline
官方文档介绍
可以将他们看作是下载器,使用时通过item的特殊字段将需要下载的文件或图片传递给它们,它们会自动下载到你指定的文件夹,同时将结果存入item的另一个特殊字段,可以输出方便查阅。

爬取matplotlib

matplotlib是非常有用的作图库,其官网上提供了许多应用实例,可在’http://matplotlib.org/examples/index.html’ 查到,我们就把这些文件下载到本地,方便以后查找使用。

页面分析

例子的链接存在class=“toctree-wrapper compound”的div中的class=“toctree-l1”的li标签中,使用LinkExtractor提取方法可以很方便的提取到页面链接

from scrapy.linkextractors import Linkextractor  
le = LinkExtractor(restrict_css='div.toctree-wrapper.compound li.toctree-l1',deny='/index.html$')  

#class中出现空格的地方用‘.’代替
#使用restrict_css和deny定位链接出现的地方

links = le.extract_links()
#可以提取出所有链接  

进入例子页面,下载链接存在class=“reference external”的‘a’标签中,使用CSS方法提取出来。

href = response.css('a.reference.external::attr(href)').extract_first()  
编码实现
  1. 创建项目和爬虫
>>>scrapy startproject matpl  
>>>cd matpl
>>>scrapy genspider matplot matplotlib.org
  1. 配置启用filepipeline
ITEM_PIPELINES={
    'scrapy.pipelines.files.FilePipeline':1,
    }
FILES_STORE = 'examples_src'  
}
  1. 配置MatpItem
import scrapy


class MatpItem(scrapy.Item):
    # define the fields for your item here like:
    # name = scrapy.Field()
    file_urls = scrapy.Field()
    file = scrapy.Field()
  1. 编写matplot Spider
# -*- coding: utf-8 -*-
import scrapy
from scrapy.linkextractors import LinkExtractor
from ..items import MatpItem

class MatplotSpider(scrapy.Spider):
    name = "matplot"
    allowed_domains = ["matplotlib.org"]
    start_urls = ['http://matplotlib.org/examples/index.html']

    def parse(self, response):
        le = LinkExtractor(restrict_css='div.toctree-wrapper.compound li.toctree-l1',deny='/index.html$')
        print(len(le.extract_links(response)))

        for link in le.extract_links(response):
            yield scrapy.Request(link.url,callback=self.parse_link)


    def parse_link(self,response):
        href = response.css('a.reference.external::attr(href)').extract_first()
        url = response.urljoin(href)
        matpl = MatpItem()
        matpl['file_urls'] = [url]
        return matpl
  1. 实现文件名保存
from scrapy.pipelines.files import FilesPipeline
from urllib.parse import urlparse
from os.path import basename,dirname,join

class MyFilePipeline(FilesPipeline):

    def file_path(self, request, response=None, info=None):
        path = urlparse(request.url).path
        return join(basename(dirname(path)),basename(path))

6.启用自定义filepipeline(这里是对第2步的修改)

ITEM_PIPELINES = {
#    'scrapy.pipelines.files.FilesPipeline':1,
    'matp.pipelines.MyFilePipeline':1,
    'matp.pipelines.MatpPipeline': 300,
}
FILES_STORE = 'example_src'

7.运行spider

>>>scrapy crawl matplot
最后下载结果

会在项目文件夹下生成设置的文件夹来进行保存。

tips:
编写程序时变量名一定要注意复数形式,很多变量都是带S的,还是要细心呀

  • 2
    点赞
  • 10
    收藏
  • 打赏
    打赏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
©️2022 CSDN 皮肤主题:大白 设计师:CSDN官方博客 返回首页
评论 1

打赏作者

TopFancy

你的鼓励将是我创作的最大动力

¥2 ¥4 ¥6 ¥10 ¥20
输入1-500的整数
余额支付 (余额:-- )
扫码支付
扫码支付:¥2
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。

余额充值