Python—面向对象小解(5)--多任务介绍

一、多任务介绍

1.1 进程与线程

进程是操作系统分配资源的最小单元

线程执行程序的的最小单元

线程依赖进程，可以获取进程的资源

一个程序执行 先要创建进程分配资源，然后使用线程执行任务

默认情况下一个进程中有一个线程

1.2 多任务介绍

运行多个进程或线程执行代码逻辑

多个进程或线程同时执行叫做并行执行

多个进程或线程交替执行叫做并发执行

必行还是并发有cpu个数决定

5个进程 cpu核心是3个 计算时时并发执行 5个进程需要抢占cpu资源，谁抢到谁执行代码计算

5个进程 cpu核心10个 计算时时并行执行 不需要抢占资源，没个进程都已一个独立的cpu核心使用完成计算

多任务在执行计算时，可以执行的同一的计算任务，也可以执行不同的任务

def func(data):
    a  = 1
    for i in data:
        a+=i
       
    return a

def func2(data):
    a  = 1
    for i in data:
        a-=i
       
    return a

def func3(data):
    a  = 1
    for i in data:
        a*=i
       
    return a

def func4(data):
    a  = 1
    for i in data:
        a%=i
       
    return a

def func4(data):
    a  = 1
    for i in data:
        a**=i
       
    return a
 
可以有5个线程或进程执行一个函数任务 func  ,那么还函数会被执行5次

也可以5个线程或进程执行不同的函数任务，每个函数任务被执行1次

1.3 多进程

多进程实现多任务就是创建多个进程执行任务函数

任务1 唱歌 任务2 跳舞 任务3 弹吉他

不使用多任务执行

程序执行顺序是从上往下依次执行，如果上一个函数没有执行完成，那么下一个函数，不会被执行

import time
def sing():
    print('唱歌')
    time.sleep(4) # 停止4秒 模拟程序执行4秒
    print('唱歌2')


def dance():
    print('跳舞')


def tanzou():
    print('弹吉他')


sing()
dance()
tanzou()

使用多进程实现多任务

# 多进程实现多任务
import time
# 使用模块方法创建多个进程
from multiprocessing import Process

def sing():
    print('唱歌')
    time.sleep(4) # 停止4秒 模拟程序执行4秒
    print('唱歌2')


def dance():
    print('跳舞')


def tanzou():
    print('弹吉他')


if __name__ == '__main__':
    # 创建进程
    # 创建不同的进程执行不同的任务
    p1 = Process(target=sing)
    p2 = Process(target=dance)
    p3 = Process(target=tanzou)

    # 执行进程
    p1.start()
    p2.start()
    p3.start()

I-任务中的参数传递

# 多进程实现多任务
import time
# 使用模块方法创建多个进程
from multiprocessing import Process

def sing(username,singname):
    print(f'唱{username}的{singname}歌')

def dance(name):
    print(f'跳{name}舞')


def tanzou():
    print('弹吉他')


if __name__ == '__main__':
    # 创建进程
    # 创建不同的进程执行不同的任务
    # 传递参数的两种方式
    p1 = Process(target=sing,kwargs={'username':'周杰伦','singname':'稻香'})
    p2 = Process(target=dance,args=['霹雳'])
    p3 = Process(target=tanzou)

    # 执行进程
    p1.start()
    p2.start()
    p3.start()

II-获取进程编号

• getpid

• getppid

# 多进程实现多任务
import time
# 使用模块方法创建多个进程
from multiprocessing import Process
import os

def sing(username,singname):
    print(f'子进程1的编号{os.getpid()}')
    print(f'子进程1的父进程编号{os.getppid()}')
    print(f'唱{username}的{singname}歌')

def dance(name):
    print(f'子进程2的编号{os.getpid()}')
    print(f'子进程2的父进程编号{os.getppid()}')
    print(f'跳{name}舞')


def tanzou():
    print(f'子进程3的编号{os.getpid()}')
    print(f'子进程3的父进程编号{os.getppid()}')
    print('弹吉他')


if __name__ == '__main__':
    # 创建进程
    # 创建不同的进程执行不同的任务
    # 传递参数的两种方式
    p1 = Process(target=sing,kwargs={'username':'周杰伦','singname':'稻香'})
    p2 = Process(target=dance,args=['霹雳'])
    p3 = Process(target=tanzou)

    # 执行进程
    p1.start()
    p2.start()
    p3.start()
    print('主进程')
    # 获取当前进程的pid编号
    print(os.getpid())

主进程默认情况下是等待子进程结束后在结束整个进程的

也可以通过exit()方法强制退出主进程，所有进程都结

III-保证进程的执行顺序

会影响执行效率

如果进程之间没有对应的数据传递关系，可以不用保证顺序，多个进程可以同时执行

如果进程之间有数据传递需求，就要保证执行顺序，通过join操作，但是该操作会影响执行效

IV-进程间的数据不共享

每个进程的资源时独立。数据就不共享

1.4 多线程

线程依赖进程，可以创建一个进程，在一个进程下创建多个线程执行任务

# 多线程实现多任务
from threading import Thread

import time
import os

def sing():
    print(f'线程1的进程编号{os.getpid()}')
    print('唱歌')
    time.sleep(4) # 停止4秒 模拟程序执行4秒
    print('唱歌2')


def dance():
    print(f'线程2的进程编号{os.getpid()}')
    print('跳舞')


def tanzou():
    print(f'线程3的进程编号{os.getpid()}')
    print('弹吉他')

if __name__ == '__main__':
    # 创建线程
    t1 = Thread(target=sing)
    t2 = Thread(target=dance)
    t3 = Thread(target=tanzou)

    # 执行线程任务
    t1.start()
    t2.start()
    t3.start()
    print(f'主进程编号{os.getpid()}')

线程任务传参

from threading import Thread
def sing(username,singname):

    print(f'唱{username}的{singname}歌')

def dance(name):

    print(f'跳{name}舞')


def tanzou():
    print('弹吉他')

if __name__ == '__main__':
    # 创建线程传递参数
    t1 = Thread(target=sing,kwargs={'username':'凤凰传奇','singname':'月亮之上'})
    t2 = Thread(target=dance,args=['圆桌舞'])
    t3 = Thread(target=tanzou)

    t1.start()
    t2.start()
    t3.start()

线程执行任务顺序保证

线程的执行顺序也是无序的，如果需要保证线程执行顺讯也是通过join保证

from threading import Thread
import os
def sing(username,singname):
    print(f'线程1的编号{os.getpid()}')
    print(f'唱{username}的{singname}歌')

def dance(name):
    print(f'线程2的编号{os.getpid()}')
    print(f'跳{name}舞')


def tanzou():
    print(f'线程3的编号{os.getpid()}')
    print('弹吉他')

if __name__ == '__main__':
    # 创建线程传递参数
    t1 = Thread(target=sing,kwargs={'username':'凤凰传奇','singname':'月亮之上'})
    t2 = Thread(target=dance,args=['圆桌舞'])
    t3 = Thread(target=tanzou)

    t1.start()
    t1.join()
    t2.start()
    t2.join()
    t3.start()
    t3.join()

线程键共享数据

多个线程是在一个进程下运行，他们可以使用同一个进程下的资源

# 线程共享数据
from threading import Thread
a = 0


def func_add1():
    global a
    for i in range(1000):
        a += 1

    print(f'线程1的结果{a}')


def func_add2():
    global a
    for i in range(2000):
        a += 1
    print(f'线程2的结果{a}')

if __name__ == '__main__':

    t1= Thread(target=func_add1)
    t2= Thread(target=func_add2)

    t1.start()

    t2.start()

    # 主进程
    print(a)

当共享数据是，多个线程操作同一个数据，那么有可能会因为资源抢占造成计算错误

可以通过join保证数据能完整计

# 线程共享数据
from threading import Thread
a = 0


def func_add1():
    global a
    for i in range(1000000):
        a += 1

    print(f'线程1的结果{a}')


def func_add2():
    global a
    for i in range(1000000):
        a += 1
    print(f'线程2的结果{a}')

if __name__ == '__main__':

    t1= Thread(target=func_add1)

    t2= Thread(target=func_add2)

    t1.start()
    # 可以通过join保证执行顺序等上一个线程执行完成后再执行其他的
    t1.join()

    t2.start()
    t2.join()

    # 主进程
    print(f'主进程的结果{a}')

1.5多任务总结

进程和线程

进程是分配资源的最小单元 线程是执行任务的最小单元

实现多任务可以使用多进程或多线

为什么要使用多任务？

提升计算效率，当cpu资源充足是，可以实现多个任务同时执行。

后续spark底层实现采用的多线程方式，spark计算效率很高。spark已经封装实现，开发不需要写多线程。

实际开发为什么不用多进程实现多任务？更多是采用多线程?

创建进程的开销加大，创建时间长。每创建一个进程都需要额外有计算机分配资源，分配资源也会耗费时间

多进程间不共享数据

多线程会共享数据，如果发生资源抢占会造成数据计算错误