scrapy--使用items.py 文件处理数据

在前面的两节介绍了使用scrapy 爬取图片与保存到文件的方式,可以看到,我们所有的提取操作都是在主文件中进行的,虽然也能取出来数据,但是在对数据进行一些修改操作时,就比较麻烦了,而且代码臃肿,重复量高。
所以今天介绍如何在items.py 文件分离数据、操作数据。
这里以伯乐在线的全部文章为例,目的是提取每篇文章的标题、时间、点赞数、评论数、喜欢数,并且存到数据库中
1 我们先创建一个scrapy 项目,scrapy startproject bole ,
scrapy genspider job blog.jobbole.com ..
这里不一一介绍,
这里写图片描述
按照我们前两篇的方式,提取方式应该是像下面这样写:
这里写图片描述
但是这样写在对提取的数据进行下一步处理时就显得麻烦,所以今天这样写,

2 首先在items.py文件里引入一个ItemLoader类, ItemLoader 是分离数据的另一种方式,可以将数据的分离和提取分为两部分, 默认使用xpath,css数据提取方式,让代码更加整洁,更加清晰。 可以对一个数据使用多个处理函数,对代码的重用有很好的实现。

  • 0
    点赞
  • 13
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值