第一种、使用set()来去重只适合单次爬取
from scrapy.exceptions import DropItem
class spiderNamePipeline(object):
def __init__(self):
self.title = set()
def process_item(self, item, spider):
title = item['title']
if title in self.title:
raise DropItem('{}已存在'.format(title))
self.title.add(title)
......
return item
第二种、使用redis实现去重
import mysql.connector
import pandas as pd
import redis
redis_db = redis.Redis(host='127.0.0.1', port=6379, db=4)
redis_data_dict = "f_url"
class DuplicatesPipeline(object):
conn = mysql.connector.connect(user = 'root', password='yourpassword', database='dbname', charset='utf8')
def __init__(self):
redis_db.flushdb()
if redis_db.hlen(redis_data_dict) == 0:
sql = "SELECT url FROM your_table_name;"
df = pd.read_sql(sql, self.conn)
for url in df['url'].get_values():
redis_db.hset(redis_data_dict, url, 0)
def process_item(self, item, spider):
if redis_db.hexists(redis_data_dict, item['url']):
raise DropItem("Duplicate item found: %s" % item)
return item```
重点说一下,虽然redis是一个键值对应的数据库,但这里为了速度用的是哈希(hash),和一般的字典不一样,比一般的字典多了个字段。详细可以看这个[教程](http://www.runoob.com/redis/redis-hashes.html),重点看hexists,hset,hlen,hgetall这几个,在终端里运行一下就明白了。教程里都是命令行运行,和python里的用法稍微有点不一样。
redis哈希结构:
结构:key field(字段) value
对应:redis_data_dict url(实际的url) 0(代码里设置成了0)
而item里key是'url' value是实际的url
如果要用:
把conn数据库连接换成自己的
修改sql语句,df['url']
然后把item['url']换成自己的,就可以了。
可以在程序中间加入print,把每一步打印出来,看数值是什么就容易懂了。
感谢这位小伙伴的分享
scrapy结合redis实现增量爬取