python中读写LMDB数据库

11 篇文章 0 订阅

LMDB的全称是Lightning Memory-Mapped Database(快如闪电的内存映射数据库),它的文件结构简单,包含一个数据文件和一个锁文件:



LMDB文件可以同时由多个进程打开,具有极高的数据存取速度,访问简单,不需要运行单独的数据库管理进程,只要在访问数据的代码里引用LMDB库,访问时给文件路径即可。

让系统访问大量小文件的开销很大,而LMDB使用内存映射的方式访问文件,使得文件内寻址的开销非常小,使用指针运算就能实现。数据库单文件还能减少数据集复制/传输过程的开销。

在python中使用lmdb: linux中,可以使用指令‘pip install lmdb’ 安装lmdb包。


1. 生成一个空的lmdb数据库文件

# -*- coding: utf-8 -*-
import lmdb

# 如果train文件夹下没有data.mbd或lock.mdb文件,则会生成一个空的,如果有,不会覆盖
# map_size定义最大储存容量,单位是kb,以下定义1TB容量
env = lmdb.open("./train",map_size=1099511627776)
env.close()

2. LMDB数据的添加、修改、删除

# -*- coding: utf-8 -*-
import lmdb

# map_size定义最大储存容量,单位是kb,以下定义1TB容量
env = lmdb.open("./train", map_size=1099511627776)

txn = env.begin(write=True)

# 添加数据和键值
txn.put(key = '1', value = 'aaa')
txn.put(key = '2', value = 'bbb')
txn.put(key = '3', value = 'ccc')

# 通过键值删除数据
txn.delete(key = '1')

# 修改数据
txn.put(key = '3', value = 'ddd')

# 通过commit()函数提交更改
txn.commit()
env.close()

3. 查询lmdb数据库内容

# -*- coding: utf-8 -*-
import lmdb

env = lmdb.open("./train")

# 参数write设置为True才可以写入
txn = env.begin(write=True)
############################################添加、修改、删除数据

# 添加数据和键值
txn.put(key = '1', value = 'aaa')
txn.put(key = '2', value = 'bbb')
txn.put(key = '3', value = 'ccc')

# 通过键值删除数据
txn.delete(key = '1')

# 修改数据
txn.put(key = '3', value = 'ddd')

# 通过commit()函数提交更改
txn.commit()
############################################查询lmdb数据
txn = env.begin()

# get函数通过键值查询数据
print txn.get(str(2))

# 通过cursor()遍历所有数据和键值
for key, value in txn.cursor():
    print (key, value)
    
############################################


env.close()

4. 读取已有.mdb文件内容

# -*- coding: utf-8 -*-
import lmdb

env_db = lmdb.Environment('trainC')
# env_db = lmdb.open("./trainC")

txn = env_db.begin()

# get函数通过键值查询数据,如果要查询的键值没有对应数据,则输出None
print txn.get(str(200))

for key, value in txn.cursor():  #遍历
    print (key, value)

env_db.close()

  • 11
    点赞
  • 32
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
要在Python进行MySQL数据库读写操作,你可以使用Python的MySQL连接器(如`mysql-connector-python`或`pymysql`)来实现。以下是一个示例代码,演示如何使用`mysql-connector-python`进行MySQL数据库读写操作: ```python import mysql.connector # 连接到MySQL数据库 cnx = mysql.connector.connect( host='localhost', user='username', password='password', database='database_name' ) # 创建游标对象 cursor = cnx.cursor() # 执行SQL查询 query = "SELECT * FROM table_name" cursor.execute(query) # 读取查询结果 result = cursor.fetchall() for row in result: print(row) # 执行SQL插入 insert_query = "INSERT INTO table_name (column1, column2) VALUES (%s, %s)" values = ('value1', 'value2') cursor.execute(insert_query, values) cnx.commit() # 关闭游标和数据库连接 cursor.close() cnx.close() ``` 在上面的示例,我们首先使用`mysql.connector.connect()`函数连接到MySQL数据库,并提供主机、用户名、密码和数据库名称等连接参数。 然后,我们使用`cursor()`方法创建一个游标对象,该游标对象用于执行SQL查询和插入等操作。 接下来,我们执行SQL查询并使用`fetchall()`方法获取所有查询结果。然后,我们可以使用循环遍历结果并进行处理。 然后,我们执行SQL插入操作。在插入操作,我们使用占位符`%s`来代替实际的值,并将值以元组的形式传递给`execute()`方法。最后,我们使用`commit()`方法提交更改。 最后,我们使用`close()`方法关闭游标和数据库连接。 请确保替换示例代码的主机、用户名、密码、数据库名称、表名、列名和值等信息,以适应你的实际情况。 注意:在使用MySQL连接器时,建议进行错误处理和异常处理,以增强程序的健壮性和安全性。
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值