python进程池调用实例方法_python 线程池调用类方法不执行?

原因是实例方法不能被pickle。上面的代码并不是执行没有错误,只是错误没有被报出来。错误只有在调用结果时,才会报错。如下:

import os

import time

from multiprocessing import Pool

import random

class MyThread(object):

def long_time_task(self,i):

print 'Run task %s (%s)...' % (i, os.getpid())

time.sleep(random.random() * 3)

print i

def parse_thread(self):

print 'Parent process %s.' % os.getpid()

p = Pool()

results = []

for i in range(10):

results.append(p.apply_async(self.long_time_task,args=(i,)))

# If trying to get the result, error will be reported here

for res in results:

print res.get()

print 'Waiting for all subprocesses done...'

p.close()

p.join()

print 'All subprocesses done.'

def main():

print "start"

tt=MyThread()

tt.parse_thread()

if __name__=="__main__"

main()

运行结果会在print res.get() 那一行报错,错误如下:

PicklingError: Can't pickle : attribute lookup __builtin__.instancemethod failed

解决方法:用一个可被实例化的普通函数包装类方法,将实例对象作为参数传递给函数即可。代码如下:

class MyThread(object):

def __init__(self, func):

self.func = func

def long_time_task(self,i):

print 'Run task %s (%s)...' % (i, os.getpid())

time.sleep(random.random() * 3)

print i

return (i, os.getpid())

def parse_thread(self):

print 'Parent process %s.' % os.getpid()

p = Pool()

results = []

for i in range(10):

results.append(p.apply_async(long_time_task_wrapper,args=(self,i,)))

# Now can get the result

for res in results:

print res.get()

print 'Waiting for all subprocesses done...'

p.close()

p.join()

print 'All subprocesses done.'

def long_time_task_wrapper(cls_instance, i):

return cls_instance.long_time_task(i)

def main():

print "start"

tt=MyThread(long_time_task_wrapper)

tt.parse_thread()

if __name__=="__main__":

main()

运行结果如下:

start

Parent process 3604.

(0, 6412)

(1, 3904)

(2, 2528)

(3, 5492)

(4, 5492)

(5, 5492)

(6, 5492)

(7, 6412)

(8, 5492)

(9, 6412)

Waiting for all subprocesses done...

Run task 2 (2528)...

2

Run task 1 (3904)...

1

Run task 3 (5492)...

3

Run task 4 (5492)...

4

Run task 5 (5492)...

5

Run task 6 (5492)...

6

Run task 8 (5492)...

8

Run task 0 (6412)...

0

Run task 7 (6412)...

7

Run task 9 (6412)...

9

All subprocesses done.

希望对你有帮助。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Python的multiprocessing.Pool模块和multiprocessing.dummy.Pool模块都是用于创建进程线程池的工具。 进程(multiprocessing.Pool)是一组维护在进程中的工作者,它们可以并行地执行任务。该模块是基于multiprocessing模块实现的,它通过创建多个进程来并行执行任务。 下面是一个创建进程的示例: ``` python import multiprocessing def worker(process_num): print("Process %d is working" % process_num) if __name__ == '__main__': pool = multiprocessing.Pool(processes=4) for i in range(5): pool.apply_async(worker, args=(i,)) pool.close() pool.join() ``` 上面的示例中,我们创建了一个包含4个进程进程,并向进程中提交了5个任务,每个任务调用worker函数并传递一个进程编号作为参数。我们使用apply_async方法进程中提交任务,并使用close和join方法管理进程线程池(multiprocessing.dummy.Pool)是一组维护在线程中的工作者,它们可以并行地执行任务。该模块是基于threading模块实现的,它通过创建多个线程来并行执行任务。 下面是一个创建线程池的示例: ``` python from multiprocessing.dummy import Pool import time def worker(thread_num): print("Thread %d is working" % thread_num) time.sleep(1) if __name__ == '__main__': pool = Pool(4) for i in range(5): pool.apply_async(worker, args=(i,)) pool.close() pool.join() ``` 上面的示例中,我们创建了一个包含4个线程的线程池,并向线程池中提交了5个任务,每个任务调用worker函数并传递一个线程编号作为参数。我们使用apply_async方法线程池中提交任务,并使用close和join方法管理线程池。 需要注意的是,线程池进程的用法基本相同,但是由于线程在Python不能真正地并行执行,因此线程池的性能可能比进程差。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值