python | concurrent.futures模块提升数据处理速度

最新推荐文章于 2024-10-28 11:00:05 发布

weixin_30612769

最新推荐文章于 2024-10-28 11:00:05 发布

阅读量169

点赞数

文章标签： python 人工智能

原文链接：http://www.cnblogs.com/geo-will/p/9757016.html

版权

在默认情况下，Python 程序是单个进程，使用单 CPU 核心执行。致使多核设备无法利用而算力浪费。通过使用 Python 的 concurrent.futures 模块，可以让一个普通的程序转换成适用于多核处理器并行处理的程序，进而提升数据预处理的效率。

案例：

简单例子，在单个文件夹中有一个图片数据集，其中有数万张图片。在这里，我们决定使用 1000 张。我们希望在所有图片被传递到深度神经网络之前将其调整为 600×600 像素分辨率的形式。

标准方法

import glob
import os
import cv2

### Loop through all jpg files in the current folder 
### Resize each one to size 600x600
for image_filename in glob.glob("*.jpg"):
 ### Read in the image data
　　img = cv2.imread(image_filename)

 ### Resize the image
　　img = cv2.resize(img, (600, 600))

流程：

1. 首先从需要处理内容的文件（或其他数据）列表开始。

2. 使用 for 循环逐个处理每个数据，然后在每个循环迭代上运行预处理。

更快的方法

流程：

1.将 jpeg 文件列表分成 4 个小组；

2.运行 Python 解释器中的 4 个独立实例；

3.让 Python 的每个实例处理 4 个数据小组中的一个；

4.结合四个处理过程得到的结果得出最终结果列表。

import glob
import os
import cv2
import concurrent.futures


def load_and_resize(image_filename):
### Read in the image data
    img = cv2.imread(image_filename)

### Resize the image
    img = cv2.resize(img, (600, 600)) 


### Create a pool of processes. By default, one is created for each CPU in your machine.
with concurrent.futures.ProcessPoolExecutor() as executor:
 ### Get a list of files to process
    image_files = glob.glob("*.jpg")

 ### Process the list of files, but split the work across the process pool to use all CPUs
 ### Loop through all jpg files in the current folder 
 ### Resize each one to size 600x600
    executor.map(load_and_resize, image_files)