Scrapy基础(七)————图片的简单下载

scrapy 提供了自动下载图片到本地的功能,通过项目管道设置 

  : 在setting 文件中ITEM_PIPELINE添加: 'scrapy.pipelines.images.ImagesPipeline':1
1为处理顺序,顺序越小,越先处理;
 : 继续在setting中添加图片URL地址获取,
         IMAGES_URLS_FIELD = "front_image_url"    #front_image_url为Item 中存储图片URL的字段,应该为list类型;所以我们应将前面存入Item时设置为list

 

    
  : 设置图片下载到本地的路径
              绝对路径:IMAGES_STORE = ""

              相对路径: 多用相对路径,工程迁移后绝对路径不能使用了
              import os
              project_dir = os.path.abspath(os.path.dirname(__file__))

     #__file__ 是本文件,dirname(__file__)获取本文件名称,abspath("文件名")获取文件的所在路径     
              IMAGES_STORE = os.path.join(project_dir,'images')       #将两个路径连接起来


  四:运行main.py 可见 在项目文件下新生成了images文件,并下载了图片,自动生成了图片名字

 五:扩展功能: 对图片进行过滤:

  在setting 文件中设置:

    IMAGES_MIN_HEIGHT = 100

    IMAGES_MIN_WIDTH = 100 

  过滤掉宽度高度小于100的图片

转载于:https://www.cnblogs.com/ruoniao/p/6891131.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值