pickleDB一个轻量级python数据库

pickleDB

欢迎

pickleDB是一个轻量级而且非常简单键值对存储,你可以通过非常少的代码来完成对数据库的增删改查

  • 虽然名为 pickleDB,但是实际上现在已经和 pickle 没有什么关系了,在使用的时候也不需要额外导入 pickle

快速开始

>>> import pickledb

# 打开或者新建数据库
>>> db = pickledb.load('example.db', False)

# 新增一条数据
>>> db.set('key', 'value')
True

# 从数据库中查询数据
>>> db.get('key')
'value'

# 保存所有的更改
>>> db.dump()
True

快速安装

你可以使用 pip 直接安装他

$ pip install pickledb

基础命令

打开或者新建一个数据库

使用命令 pickledb.load() 可以快速新建或者打开一个数据库,命名通常以.db结尾

  • 两个参数
    • 参数1:数据库的名字
    • 参数2:是否在每一次修改或者删除值之后自动保存
  • 返回值
    • 将会返回一个可以继续进行其他操作的 PickleDB 对象
db = pickledb.load('example.db', False) # 第二个值推荐设置为 True(非官方推荐)

# 如果第二值设置的是 False,数据不会自动保存,需要手动调用
db.dump()

设置一条数据

使用命令 pickledb.set() 就可以设置一个数据,如果数据已经存在,那么就会直接覆盖之前的数据

  • 两个参数
    • 参数1:键(key) 的名字
      键必须得是字符串,否则会引发错误Key/name must be a string!
    • 参数2:值(value) 的内容,值可以是任何值,python内字典支持的所有内容都可以存入,包括但不限于字符串,数字,列表,字典
  • 返回值
    • 返回值为 True,如果保存失败会直接返回报错,不会返回 False(截至v0.9.2一直如此)
import pickledb

db = pickledb.load('testdb.db',True)
db.set('listtest',[1,2,3]) # 值是一个列表
print(db.get('listtest'))

# 打印结果 [1, 2, 3]
import pickledb

db = pickledb.load('testdb.db',True)
db.set('dicttest',{'a':1,"b":2})
print(db.get('dicttest'))

# 打印结果 {'a': 1, 'b': 2}

增加一条数据

使用命令 pickledb.append() 可以为键添加更多的值,这个和上面方法的区别在于,如果有同名的数据,那么这个命令不会覆盖,而是会尝试添加

  • 两个参数

    • 参数1:键(key) 的名字
      键必须得是字符串,否则会引发错误Key/name must be a string!

    • 参数2:值(value) 的内容,值可以是任何值,python内字典支持的所有内容都可以存入,包括但不限于字符串,数字,列表

  • 返回值

    • 永恒为 True,我感觉作者都没想好怎么返回失败,真蚌埠住了

如果添加的值是列表

import pickledb

db = pickledb.load('testdb.db',True)

#print(db.set('a','这是一个值a'))
db.set('listtest',[1,2,3])
db.append('listtest',[6,7,8])

print(db.get('listtest'))

# 打印结果 [1, 2, 3, 6, 7, 8]

如果添加的值为数字

如果添加的值是一个数字,那么他们会相加

import pickledb

db = pickledb.load('testdb.db',True)
db.set('number',1)
print(db.get('number')) # 输出结果为 1

db.append('number',6)
print(db.get('number')) # 输出结果为 7

如果添加的是字符串

import pickledb

db = pickledb.load('testdb.db',True)
db.set('strtest','a')
print(db.get('strtest')) # 输出结果为 a

db.append('strtest','b')
print(db.get('strtest')) # 输出结果为 ab

注意,这个值无法添加字典,如果添加字典会导致报错

image-20220724210459628

获取数据

  • 使用命令 pickledb.get()可以获取到数据
  • 使用命令pickledb.getall()可以获取到数据库中所有键的列表
    长成这个样子dict_keys(['number', 'strtest'])
import pickledb

db = pickledb.load('testdb.db',True)
print(db.getall())
# 输出结果 dict_keys(['number', 'strtest'])

删除一个数据

  • 使用命令 pickledb.rem()来删除一个数据
  • 参数只有一个,就是需要删除的键的名字

删除数据库

import pickledb

db = pickledb.load('testdb.db',True)

db.deldb()

一些废话

如果你是从小甲鱼那边学完 pickle 直接过来,你可以直接忘记 pickle 了,使用 pickledb 能够让你存储数据更加方便而且强大,但是请不要用它来存储重要数据,请将那些数据存到 sqlite 或者 mysql 之类更加有安全保障的地方

pickledb 的精髓就在于不需要经过其他的转换,存进去是什么样取出来还是什么样,同时方便调用也不存在复杂的 SQL 语句

但是缺点在于 pickledb 还处于一个非常早期的版本,许多功能并不完善

  • 比如无法完成复杂的查找功能
  • 无法和其他的数据库互通
  • 无法导出数据库数据

如果你需要使用到上面的方法,可能 pickledb 并不适合你,sqlite3 会是更好的选择

但是如果你有下面的一些需求

  • 不需要太复杂的查找功能
  • 一些需要中期保存的数据,需要存到我的硬盘,但是不想学习或者不想使用正式数据库
  • 我想有一个只有我能打得开的数据库

更多文档请查阅英文版官方API
https://pythonhosted.org/pickleDB/

版本更新添加了新的功能或者你对这个模块由疑问请在评论区留言❤️

如果你觉得这篇文章对你有帮助请点一个赞👍

  • 2
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
数据库的名字叫WawaDB,是用python实现的。由此可见python是灰常强大啊! 简介 记录日志的需求一般是这样的: 只追加,不修改,写入按时间顺序写入; 大量写,少量读,查询一般查询一个时间段的数据; MongoDB的固定集合很好的满足了这个需求,但是MongoDB占内存比较大,有点儿火穿蚊子,小题大做的感觉。 WawaDB的思路是每写入1000条日志,在一个索引文件里记录下当前的时间和日志文件的偏移量。 然后按时间询日志时,先把索引加载到内存中,用二分法查出时间点的偏移量,再打开日志文件seek到指定位置,这样就能很快定位用户需要的数据并读取,而不需要遍历整个日志文件。 性能 Core 2 P8400,2.26GHZ,2G内存,32 bit win7 写入测试: 模拟1分钟写入10000条数据,共写入5个小时的数据, 插入300万条数据,每条数据54个字符,用时2分51秒 读取测试:读取指定时间段内包含某个子串的日志 数据范围 遍历数据量 结果数 用时(秒) 5小时 300万 604 6.6 2小时 120万 225 2.7 1小时 60万 96 1.3 30分钟 30万 44 0.6 索引 只对日志记录的时间做索引, 简介里大概说了下索引的实现,二分查找肯定没B Tree效率高,但一般情况下也差不了一个数量级,而且实现特别简单。 因为是稀疏索引,并不是每条日志都有索引记录它的偏移量,所以读取数据时要往前多读一些数据,防止漏读,等读到真正所需的数据时再真正给用户返回数据。 如下图,比如用户要读取25到43的日志,用二分法找25,找到的是30所在的点, 索 引:0 10 20 30 40 50 日志:|.........|.........|.........|.........|.........|>>>a = [0, 10, 20, 30, 40, 50]>>>bisect.bisect_left(a, 35)>>>3>>>a[3]>>>30>>>bisect.bisect_left(a, 43)>>>5>>>a[5]>>>50 所以我们要往前倒一些,从20(30的前一个刻度)开始读取日志,21,22,23,24读取后因为比25小,所以扔掉, 读到25,26,27,...后返回给用户 读取到40(50的前一个刻度)后就要判断当前数据是否大于43了,如果大于43(返回全开区间的数据),就要停止读了。 整体下来我们只操作了大文件的很少一部分就得到了用户想要的数据。 缓冲区 为了减少写入日志时大量的磁盘写,索引在append日志时,把buffer设置成了10k,系统默认应该是4k。 同理,为了提高读取日志的效率,读取的buffer也设置了10k,也需要根据你日志的大小做适当调整。 索引的读写设置成了行buffer,每满一行都要flush到磁盘上,防止读到不完整的索引行(其实实践证明,设置了行buffer,还是能读到半拉的行)。 查询 啥?要支持SQL,别闹了,100行代码怎么支持SQL呀。 现在查询是直接传入一个lambada表达式,系统遍历指定时间范围内的数据行时,满足用户的lambada条件才会返回给用户。 当然这样会多读取很多用户不需要的数据,而且每行都要进行lambda表达式的运算,不过没办法,简单就是美呀。 以前我是把一个需要查询的条件和日志时间,日志文件偏移量都记录在索引里,这样从索引里查找出符合条件的偏移量,然后每条数据都如日志文件里seek一次,read一次。这样好处只有一个,就是读取的数据量少了,但缺点有两个: 索引文件特别大,不方便加载到内存中 每次读取都要先seek,貌似缓冲区用不上,特别慢,比连续读一个段的数据,并用lambda过滤慢四五倍 写入 前面说过了,只append,不修改数据,而且每行日志最前面是时间戳。 多线程 查询数据,可以多线程同时查询,每次查询都会打开一个新的日志文件的描述符,所以并行的多个读取不会打架。 写入的话,虽然只是append操作,但不确认多线程对文件进行append操作是否安全,所以建议用一个队列,一个专用线程进行写入。 锁 没有任何锁。 排序 默认查询出来的数据是按时间正序排列,如需其它排序,可取到内存后用python的sorted函数排序,想怎么排就怎么排。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值