python sqlite3多进程示例_sqlite3中的多进程插入比串行python3花费更多的时间

这篇博客探讨了使用Python的sqlite3库在多进程环境下插入数据到.db文件的情况。作者发现,尽管利用多处理进行文件元数据的并行计算能提高效率,但将这些数据并行插入到SQLite数据库中时,串行代码的运行时间却比多进程代码更短。文章提供了多进程和串行Python脚本示例,用于从指定目录提取文件元数据并存储到数据库中。作者在不同配置的机器上进行了测试,结果一致显示出并行插入的效率问题。
摘要由CSDN通过智能技术生成

我试图实现的是从给定的特定目录中提取文件的元数据,并使用python的sqlite3将其存储在.db文件中。我使用python的多处理来获得对每个文件的一些散列值的并行计算的优势(每次为每个文件使用一个核心),尽管串行代码的计算时间总是比并行代码少。我在许多有2-8gbram和2-4核的机器上进行了测试,从许多文件(其中一些文件的大小超过1gb)收集数据,结果总是一样的。下面我将向您展示串行和并行python脚本,任何想法都将非常有用。在

多处理脚本:import itertools

import multiprocessing

from multiprocessing import Pool

import os, sys

import stat

import sqlite3

import time

import hashlib

def worker(filename):

conn = sqlite3.connect('metadata.db', timeout=30.0)

c = conn.cursor() #database cursor

result = os.stat(filename) #stat instance to get info about the current file

print("Gathering metadata for file: " + filename)

split_filename = filename.split('/')

path_to_file = '/'.join(split_filename[:-1])

file_name = split_filename[

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值