python多线程读取列表

说明:

最近做的项目里要处理百万级数据,单线程跑的时间能把人逼疯,用多线程处理就不可避免了。
学习多线程期间看到以下这段代码比较清晰明了,所以转载一下。
本段代码包括python多线程初始化、开始和释放线程锁、分配多线程列表数等内容。
亲测修改后可用,感谢原博主。

转载原文地址:均益个人博客 » python 多线程读取列表(可以设置线程数,平均分配每个线程读取的列表数)

代码:

# -*- coding: UTF-8 -*-
import threading
from time import sleep,ctime

class myThread (threading.Thread):
   def __init__(self, threadID, name, s , e):
       threading.Thread.__init__(self)
       self.threadID = threadID
       self.name = name
       self.s = s
       self.e = e
   def run(self):
       print "Starting " + self.name+ctime()
      # 获得锁,成功获得锁定后返回True
      # 可选的timeout参数不填时将一直阻塞直到获得锁定
      # 否则超时后将返回False
       threadLock.acquire()
       #线程需要执行的方法
       printImg(self.s,self.e)
       # 释放锁
       threadLock.release()

listImg = [] #创建需要读取的列表,可以自行创建自己的列表
for i in range(179):
   listImg.append(i)

# 按照分配的区间,读取列表内容,需要其他功能在这个方法里设置
def printImg(s,e):
   for i in range(s,e):
       print i


totalThread = 3 #需要创建的线程数,可以控制线程的数量

lenList = len(listImg) #列表的总长度
gap = lenList / totalThread #列表分配到每个线程的执行数

threadLock = threading.Lock() #锁
threads = [] #创建线程列表

# 创建新线程和添加线程到列表
for i in range(totalThread):
   thread = 'thread%s' % i
   if i == 0:
       thread = myThread(0, "Thread-%s" % i, 0,gap)
   elif totalThread==i+1:
       thread = myThread(i, "Thread-%s" % i, i*gap,lenList)
   else:
       thread = myThread(i, "Thread-%s" % i, i*gap,(i+1)*gap)
   threads.append(thread) # 添加线程到列表

# 循环开启线程
for i in range(totalThread):
   threads[i].start()

# 等待所有线程完成
for t in threads:
   t.join()
print "Exiting Main Thread"

若要求多线程返回子线程结果,则可参考文章:python多线程处理数据并获得子线程返回值

  • 4
    点赞
  • 23
    收藏
    觉得还不错? 一键收藏
  • 2
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值