python使用rejson+redis存储json

python使用rejson+redis存储json

python安装rejson

pip3 install rejson

python代码

#!/bin/python3
# -*- coding=utf-8 -*-
import rejson

# 连接redis
rj = rejson.Client(host='localhost', port=6379, decode_responses=True)

def run():
    obj={}
    obj['a']="1"
    obj['b']="2"
    # 写入。返回值a为True时写成功
    a = rj.jsonset('obj', '.', obj)
        
    # 读取。b非None时读取到内容
    b = rj.jsonget('obj', '.')
    print(b)
    return 

if __name__ == '__main__':
    run()

参数

class Client(encoder=None, decoder=None, host: Text=..., port: int=..., 
db: int=..., password: Optional[Text]=..., socket_timeout: Optional[float]=..., 
socket_connect_timeout: Optional[float]=..., socket_keepalive: Optional[bool]=..., 
socket_keepalive_options: Optional[Mapping[str, Union[int, str]]]=..., 
connection_pool: Optional[ConnectionPool]=..., unix_socket_path: Optional[Text]=..., 
encoding: Text=..., encoding_errors: Text=..., charset: Optional[Text]=..., 
errors: Optional[Text]=..., decode_responses: bool=..., retry_on_timeout: bool=...,
 ssl: bool=..., ssl_keyfile: Optional[Text]=..., ssl_certfile: Optional[Text]=..., 
 ssl_cert_reqs: Optional[Union[str, int]]=..., ssl_ca_certs: Optional[Text]=..., 
 max_connections: Optional[int]=...,)

常用参数简单说明:

host redis地址
port redis端口
decode_responses=True 返回字符串

参考:
https://pypi.org/project/rejson/

  • 1
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
好的,您的问题是关于如何基于Python、ScrapyRedis和Rule组件实现分布式爬虫爬取京东华为笔记本的。首先,您需要安装ScrapyRedis,并在Scrapy的配置文件中添加Redis相关的配置: ```python # 在settings.py中添加以下配置 DUPEFILTER_CLASS = "scrapy_redis.dupefilter.RFPDupeFilter" SCHEDULER = "scrapy_redis.scheduler.Scheduler" SCHEDULER_PERSIST = True REDIS_URL = 'redis://localhost:6379' ``` 然后,您需要编写Spider和Item Pipeline,其中Spider负责解析并抓取网页,Item Pipeline负责处理抓取到的数据。下面是一个示例的Spider代码: ```python from scrapy_redis.spiders import RedisSpider from scrapy.selector import Selector from ..items import ProductItem class JdSpider(RedisSpider): name = 'jd' redis_key = 'jd:start_urls' def parse(self, response): sel = Selector(response) products = sel.xpath('//div[@class="gl-i-wrap"]') for product in products: item = ProductItem() item['name'] = product.xpath('div[@class="p-name"]/a/em/text()').extract_first() item['price'] = product.xpath('div[@class="p-price"]/strong/i/text()').extract_first() item['url'] = product.xpath('div[@class="p-name"]/a/@href').extract_first() yield item ``` 在Item Pipeline中,您可以对抓取到的数据进行清洗和存储,下面是一个示例的Item Pipeline代码: ```python import pymongo class JdPipeline(object): def __init__(self, mongo_uri, mongo_db): self.mongo_uri = mongo_uri self.mongo_db = mongo_db @classmethod def from_crawler(cls, crawler): return cls( mongo_uri=crawler.settings.get('MONGO_URI'), mongo_db=crawler.settings.get('MONGO_DATABASE', 'items') ) def open_spider(self, spider): self.client = pymongo.MongoClient(self.mongo_uri) self.db = self.client[self.mongo_db] def close_spider(self, spider): self.client.close() def process_item(self, item, spider): self.db['products'].insert(dict(item)) return item ``` 最后,您需要创建一个Redis队列,并向队列中添加起始URL,如下所示: ```python import redis r = redis.Redis(host='localhost', port=6379) r.lpush('jd:start_urls', 'https://search.jd.com/Search?keyword=%E5%8D%8E%E4%B8%BA%E7%AC%94%E8%AE%B0%E6%9C%AC&enc=utf-8') ``` 最终,您就可以运行分布式爬虫并抓取京东华为笔记本的数据了。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值