scrapy 提取图片与信息(自定义管道)

利用 scrapy 框架提取图片以及有用的信息:
python 3.7
scrapy 1.6
豆瓣top250电影

scrapy的管道文件(pipelines):

pipelines: 在一个工程里面,在pipelines.py文件中定义管道,管道实际上就是一个类,而这个类定义了一些方法(属性),用来处理我们传进类(管道)中的数据,在处理完以后,再返回被处理以后的数据。多个管道合用,首先是将一个数据先后传进多个管道中处理,最后输出数据。

用scrapy爬取豆瓣top250电影的影名,导演等信息还有海报(图片,需要下载), 要处理文本和图片,就需要用到两个管道,图片处理管道MypipeimageslinePipeline和文本处理管道MyitemPipeline

  1. 首先是定义items
import scrapy

class Douban250Item(scrapy.Item):
    title = scrapy.Field()
    rank = scrapy.Field()
    grade = scrapy.Field()
    quote = scrapy.Field()

    director = scrapy.Field()
    star = scrapy.Field()
    desc = scrapy.Field()

    douban_images = scrapy.Field()
    douban_image_urls = scrapy.Field()
    image_paths = scrapy.Field()
  1. pipelines
import codecs
import scrapy
from scrapy.pipelines.images import ImagesPipeline
from scrapy.exceptions import DropItem

class Douban250Pipeline(object):

    def __init__(self):
        print('starting')
        self.file = codecs.open('douban_movie.csv', 'wb', encoding='
  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值