当Item在Spider中被收集之后,它将会被传递到Item Pipeline,一些组件会按照一定的顺序执行Item的处理。
每个item pipeline组件是实现了简单方法的Python类。他们接收到Item并通过它执行了一些行为ie,同时也决定了此Item是否继续通过pipeline,或是被丢弃而不再进行一些处理。
以下是item pipeline的一些典型应用:
- 清理HTML数据
- 验证爬取的数据
- 查重
- 将爬取结果保存到数据库
编写你自己的Item pipeline
每个item pipeline组件是一个独立的Python类,同时必须实现以下的方法:
process_item(item,spider)
每个item pipeline组件都需要调用该方法,这个方法必须返回一个Item对象,或是抛出DropItem异常,被丢弃的item将不会被之后的pipeline组件所处理。
- item-被爬取的item;
- spider-爬取该item的spider;
open_spider(spider)
当spider被开启时,这个方法被调用。
spider-被开启的spider。
close_spider(spider)
当spider被关闭时,这个方法被调用
spider-被关闭的spider
Item pipeline样例
验证价格,同时丢弃没有价格的item
from scrapy.exceptions import DropItem
class PricePipeline(object):
vat_factor=1.15
def process_item(self,item,spider):
if item['price']:
if item['price_excludes_vat']:
item['price']=item['price'] *self.vat_factor
return item
else:
raise DropItem("Missing price in %s" %item)
将item写入JSON文件
以下pipeline将所有爬取到的item,存储到一个独立的item.jl文件,每行包含一个序列化为JSON格式的item:
import json
class JsonWritePipeline(object):
def __init__(self):
self.file=open('items.jl','wb')
def process_item(self,item,spider):
line=json.dumps(dict(item)) + "\n"
self.file.write(line)
return item
去重
一个用于去重的过滤器,丢弃那些已经被处理过的item。假设我们的item有一个唯一的id,但是spider返回的多个item中包含于相同的id:
from scrapy.exceptions import DropItem
class DuplicatesPipeline(object):
def __init__(self):
self.ids_seen=set()
def process_item(self,item,spider):
if item['id'] in self.ids_seen:
raise DropItem("Duplicate item found:%s" %item)
else:
self.ids_seen.add(item['id'])
return item
启用一个Item Pipeline组件
为了启用一个Item Pipeline组件,你必须将它的类添加到ITEM_PIPELINES配置。
ITEM_PIPELINES={
'myproject.pipelines.PricePipeline':300,
'myproject.pipelines.JsonWriterPipeline':800,
}
分配给每个类的整形值,确定了它们运行的顺序,item按数字从低到高的顺序,通过pipeline,通常将这些数字定义在0-1000范围内。