简单分享下Python进程

1. 单进程与多进程

理论讲解

  • 进程是操作系统中资源分配的基本单位,每个进程都有独立的内存空间。

  • 多进程允许同时运行多个进程,提高CPU利用率和程序响应速度。

示例代码

import os
print("当前进程ID:", os.getpid())

2. 使用multiprocessing模块创建子进程

理论讲解

  • multiprocessing模块提供了创建和管理子进程的方法。

示例代码

from multiprocessing import Process
import time

def worker():
    print("Worker 进程ID:", os.getpid())
    time.sleep(1)

if __name__ == "__main__":
    p = Process(target=worker)
    p.start()
    p.join()  # 等待子进程结束

3. 进程池管理

理论讲解

  • 进程池可以控制并发执行的进程数量,提高效率和资源利用。

示例代码

from multiprocessing import Pool

def square(x):
    return x * x

if __name__ == "__main__":
    with Pool(4) as p:
        result = p.map(square, range(10))
        print(result)

4. 进程间通信:队列

理论讲解

  • 队列是进程间通信的安全方式,可以实现数据的无锁交换。

示例代码

from multiprocessing import Queue, Process

def writer(q):
    q.put('Hello')

def reader(q):
    print(q.get())

if __name__ == "__main__":
    q = Queue()
    pw = Process(target=writer, args=(q,))
    pr = Process(target=reader, args=(q,))
    pw.start()
    pr.start()
    pw.join()
    pr.join()

5. 锁与同步

理论讲解

  • 在多进程中共享资源时,使用锁可以避免竞争条件。

示例代码

from multiprocessing import Lock, Process

lock = Lock()

def increment(counter):
    lock.acquire()
    try:
        counter += 1
    finally:
        lock.release()

if __name__ == "__main__":
    counter = 0
    processes = [Process(target=increment, args=(counter,)) for _ in range(10)]
    for p in processes:
        p.start()
    for p in processes:
        p.join()
    print("Final counter:", counter)

6. 管道通信

理论讲解

  • 管道提供了一种双向通信机制,适合简单的数据传递。

示例代码

from multiprocessing import Pipe, Process

def send(pipe):
    pipe.send('Hello')
    pipe.close()

if __name__ == "__main__":
    parent_conn, child_conn = Pipe()
    p = Process(target=send, args=(child_conn,))
    p.start()
    print(parent_conn.recv())   # prints "Hello"
    p.join()

7. 使用subprocess模块

理论讲解

  • subprocess模块用于创建新进程,执行系统命令或程序。

示例代码

import subprocess

proc = subprocess.Popen(['echo', 'Hello from the child!'], stdout=subprocess.PIPE)
out, err = proc.communicate()
print(out.decode('utf-8'))

8. 进程监控与管理

理论讲解

  • 利用psutil库可以获取和管理进程信息。

示例代码

import psutil

# 打印所有运行中的进程
for proc in psutil.process_iter(['pid', 'name']):
    print(proc.info)

9. 进程优先级调整

理论讲解

  • 可以调整进程的优先级,影响其CPU使用率。

示例代码

import os

os.nice(10)  # 设置进程优先级为10(较低)

10. 异常处理与日志记录

理论讲解

  • 在多进程环境中,异常处理和日志记录对于调试和维护至关重要。

示例代码

import logging
from multiprocessing import Process

logging.basicConfig(level=logging.INFO)

def worker():
    try:
        raise Exception('Something went wrong!')
    except Exception as e:
        logging.error(f"Error in worker: {e}")

if __name__ == "__main__":
    p = Process(target=worker)
    p.start()
    p.join()

以上策略涵盖了从基础的进程创建到高级的进程管理和异常处理,可以帮助你更好地理解和掌握Python中的进程管理技术。


11. 并发模型的选择:进程 vs. 线程 vs. 协程

理论讲解

  • 进程:适用于CPU密集型任务,因为它们可以在不同的CPU核心上并行运行。

  • 线程:适用于I/O密集型任务,在单个进程内共享资源,但受GIL限制。

  • 协程:轻量级的并发模型,适用于高度I/O密集型和高并发场景,如网络请求处理。

示例代码

import asyncio

async def my_coroutine():
    print("Starting coroutine")
    await asyncio.sleep(1)
    print("Coroutine finished")

async def main():
    await asyncio.gather(my_coroutine(), my_coroutine())

if __name__ == "__main__":
    asyncio.run(main())

12. 利用concurrent.futures简化多进程编程

理论讲解

  • concurrent.futures模块提供了一个高级接口,简化了异步执行函数的调用。

示例代码

from concurrent.futures import ProcessPoolExecutor

def square(x):
    return x * x

if __name__ == "__main__":
    with ProcessPoolExecutor(max_workers=4) as executor:
        results = list(executor.map(square, range(10)))
        print(results)

13. 进程死锁的预防与解决

理论讲解

  • 死锁发生在两个或更多进程互相等待对方释放资源而无法继续执行的情况。

  • 预防措施包括使用锁的超时、资源分级和死锁检测算法。

示例代码

from multiprocessing import Lock

lock1 = Lock()
lock2 = Lock()

def process1():
    while True:
        if lock1.acquire(timeout=1):
            try:
                if lock2.acquire(timeout=1):
                    try:
                        print("Process 1 executing")
                    finally:
                        lock2.release()
            finally:
                lock1.release()

def process2():
    while True:
        if lock2.acquire(timeout=1):
            try:
                if lock1.acquire(timeout=1):
                    try:
                        print("Process 2 executing")
                    finally:
                        lock1.release()
            finally:
                lock2.release()

if __name__ == "__main__":
    p1 = Process(target=process1)
    p2 = Process(target=process2)
    p1.start()
    p2.start()
    p1.join()
    p2.join()

14. 资源管理与上下文管理器

理论讲解

  • 上下文管理器(如with语句)可以自动管理资源的生命周期,避免资源泄露。

示例代码

from multiprocessing import Pool

def worker(num):
    print(f"Worker {num} started")

if __name__ == "__main__":
    with Pool(processes=4) as pool:
        pool.map(worker, range(4))

15. 进程安全的数据结构

理论讲解

  • 在多进程环境中,使用进程安全的数据结构可以避免数据竞争和不一致问题。

示例代码

from multiprocessing import Manager

def add_to_list(shared_list):
    shared_list.append(1)

if __name__ == "__main__":
    manager = Manager()
    shared_list = manager.list()
    
    processes = []
    for _ in range(10):
        p = Process(target=add_to_list, args=(shared_list,))
        p.start()
        processes.append(p)
        
    for p in processes:
        p.join()
        
    print(shared_list)

以上分享由浅及深的,介绍了Python进程管理的各个方面,从并发模型的选择到具体的实现细节,如死锁预防、资源管理和进程安全的数据结构。通过这些实战策略的应用,我们将能够更加熟练地使用Python进行高效的多进程编程,从而提升应用程序的性能和稳定性。

16.创作不易,还望哥哥姐姐们支持支持!!!

  • 21
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小软件大世界

谢谢支持,我将会更加努力的寻找

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值