【python】async异步编程

本文深入探讨Python的异步编程,从协程的greenlet、yield、asyncio模块到async/await关键字,详细阐述了事件循环、Task和Future对象,并通过异步redis、MySQL、FastAPI框架及爬虫案例展示实战应用。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1.协程

协程不是计算机提供的(计算机提供线程和进程),是程序员人为创造的。
协程(Coroutine),也可以被称为微线程,是一种用户态内的上下文切换技术,简而言之,就是通过一个线程实现代码块相互切换执行。例如:

def func1():
	print(1)
	...
	print(2)

def func2():
	print(3)
	...
	print(4) 

func1()
func2()

一般思路先执行func1,再执行func2
协程会让两个函数来回切换

实现协程方法:

  • greenlet 早期模块
  • yield关键字
  • asyncio装饰器(python3.4引入)
  • async、await关键字(python3.5)【推荐】
1.1 greenlet实现协程
pip install greenlet
from greenlet import greenlet


def func1():
    print(1)        # 第2步:输出1
    gr2.switch()    # 第3步:切换到func2函数
    print(2)        # 第6步:输出2
    gr2.switch()    # 第7步:切换到func2函数,从上一次执行的位置继续向后执行
    
def func2():
    print(3)        # 第4步:输出3
    gr1.switch()    # 第5步:切换到func1函数,从上一次执行的位置继续向后执行
    print(4)        # 第8步:输出4
    
gr1 = greenlet(func1)
gr2 = greenlet(func2)

gr1.switch          # 第1步:去执行func1函数

1.2 yield关键字
def func1():
    yield 1
    yield from func2()
    yield 2

def func2():
    yield 3
    yield 4

f1 = func1()
for item in f1:
    print(item)
1.3 asyncio模块

python3.4及之后版本

import asyncio


@asyncio.coroutine	# 加上装饰器可以理解为普通函数成为协程函数
def func1():
    print(1)
    yield from asyncio.sleep(2)  # 遇到IO耗时操作,自动切换到tasks中的其他任务
    print(2)

@asyncio.coroutine
def func2():
    print(3)
    yield from asyncio.sleep(2)  # 遇到IO耗时操作,自动切换到tasks中的其他任务
    print(4)


# 协程函数不能直接func1()执行,通过以下方式执行
# loop = asyncio.get_event_loop()
# loop.run_until_complete(func1())

tasks = [
    asyncio.ensure_future(func1()),
    asyncio.ensure_future(func2())
]

loop = asyncio.get_event_loop()
loop.run_until_complete(asyncio.wait(tasks))
1.4 async&await关键字

python3.5及之后版本

import asyncio


async def func1():  # async关键字替换修饰器
    print(1)
    await asyncio.sleep(2)  # await关键字替换yield from
    print(2)

async def func2():
    print(3)
    await asyncio.sleep(2)  # 遇到IO耗时操作,自动切换到tasks中的其他任务
    print(4)


tasks = [
    asyncio.ensure_future(func1()),
    asyncio.ensure_future(func2())
]

loop = asyncio.get_event_loop()
loop.run_until_complete(asyncio.wait(tasks))

2. 协程意义

在一个线程中如果遇到IO等待时间,线程不会一直等待,利用空闲时间做其他事情。
案例:下载三张图片(网络IO)

  • 普通方式 (同步)
""" pip install requests """
import requests


def download_image(url):
    print("开始下载:",url)
    # 发送网络请求,下载图片
    response = requests.get(url)
    print("下载完成")
    # 图片保存到本地文件
    file_name = url.rsplit('_')[-1]
    with open(file_name, mode='wb') as file_object:
        file_object.write(response.content)
if __name__ == '__main__':
    url_list = [
        'https://c-ssl.duitang.com/uploads/blog/202110/26/20211026141603_cb6eb.jpg',
        'https://c-ssl.duitang.com/uploads/blog/202110/22/20211022063257_4b93d.jpg',
        'https://c-ssl.duitang.com/uploads/blog/202109/21/20210921165524_d1074.jpg'
    ]
    for item in url_list:
        download_image(item)

普通下载

  • 协程方式(异步)
"""
下载图片使用第三方模块aiohttp,请提前安装:pip install aiohttp
"""
#!/usr/bin/env python
# -*- coding:utf-8 -*-
import aiohttp
import asyncio


async def fetch(session, url):
    print("开始下载:", url)
    async with session.get(url, verify_ssl=False) as response:
        content = await response.content.read()
        file_name = url.rsplit('_')[-1]
        with open(file_name, mode='wb') as file_object
<think>好的,我现在需要帮助用户理解Python中的async和await关键字以及异步编程的概念。首先,我得回忆一下自己之前学过的相关知识,确保信息准确。根据用户提供的引用资料,特别是引用3和4,async用来定义异步函数,await用来等待其他协程执行,而asyncio是它们的实现之一。 首先,我应该从基础概念开始解释,比如什么是异步编程,为什么需要它。用户可能已经知道同步编程的局限性,比如I/O操作阻塞整个程序,导致效率低下。异步编程可以在等待I/O时释放CPU资源,处理其他任务,提高吞吐量。这部分需要简明扼要,不要过于技术化。 接下来,要介绍async和await的具体用法。根据引用3和4,async def用于声明协程函数,await用于挂起当前协程,等待其他协程完成。需要举例说明,比如用户提供的引用5中的例子,展示如何定义异步函数,使用await调用,以及事件循环的处理流程。代码示例很重要,用户可能希望看到实际的用法,所以需要确保代码正确,并符合Python的语法规范。 然后,需要讲解事件循环的概念,这是异步编程的核心。用户可能不太清楚事件循环如何管理协程,需要解释事件循环如何调度任务,当遇到await时暂停当前任务,执行其他任务,直到原任务就绪。这部分可以结合引用5中的main函数和Task对象的说明,说明事件循环如何管理协程状态。 另外,异常处理也是关键部分。根据引用2,异步任务中的异常处理需要使用try-except块来捕获,确保程序稳定性。需要提供一个代码示例,比如用户提到的error_prone_operation函数,在main函数中捕获异常。这样可以展示异步编程中的错误处理机制,避免程序崩溃。 还需要提到asyncio库的作用,引用1指出async和await是API,而asyncio是它们的实现。用户可能混淆这两个概念,需要说明它们的关系,强调async/await是语法,而asyncio提供了底层的支持,比如事件循环和任务管理。 此外,可能需要比较同步和异步的区别,帮助用户理解异步的优势。例如,同步代码按顺序执行,而异步在等待时切换任务,提高效率。可以举一个简单的例子,比如同时处理多个网络请求,异步可以显著减少总时间。 最后,用户可能需要知道如何开始使用异步编程。步骤包括定义async函数,使用await调用,运行事件循环。需要强调asyncio.run()作为入口点,以及如何组织异步函数。常见问题如忘记使用await,或者错误地混合同步和异步代码,也需要提醒用户注意。 在总结时,确保覆盖了基本概念、语法、事件循环、异常处理,以及最佳实践。同时,根据用户提供的引用资料,正确标注引用来源,比如引用1到5的相关内容,确保信息的准确性和可信度。最后生成相关问题,帮助用户进一步学习,比如如何创建任务、处理多个异步操作、关闭事件循环等。</think>### Python异步编程async/await使用指南 #### 一、基础概念 异步编程的核心目标是**在I/O等待时释放CPU资源**,通过协程(Coroutine)实现非阻塞操作。与传统同步编程不同,异步模型使用单线程并发执行多个任务,在等待I/O时自动切换任务[^3]。 #### 二、语法规则 1. **定义协程函数** 使用`async def`声明异步函数: ```python async def fetch_data(): await asyncio.sleep(1) return "data" ``` 2. **等待协程执行** `await`关键字用于挂起当前协程,直到被等待的协程完成: ```python async def main(): result = await fetch_data() # 等待数据返回 print(result) ``` #### 三、事件循环机制 事件循环(Event Loop)是异步编程的调度核心: ```python import asyncio async def task1(): print("开始任务1") await asyncio.sleep(2) print("结束任务1") async def task2(): print("执行任务2") asyncio.run(task1()) # 启动事件循环 ``` 执行流程: 1. `task1()`进入事件循环 2. 遇到`await asyncio.sleep(2)`时暂停 3. 事件循环寻找其他可执行任务 4. 2秒后恢复`task1()`执行[^5] #### 四、异常处理 异步任务需要特殊异常捕获方式: ```python async def error_task(): raise ValueError("模拟错误") async def main(): try: await error_task() except ValueError as e: print(f"捕获错误: {e}") # 输出:捕获错误: 模拟错误[^2] ``` #### 五、最佳实践 1. **避免阻塞操作**:不要在协程中使用`time.sleep()`等同步阻塞方法 2. **任务分组**:使用`asyncio.gather()`并发执行多个任务 ```python async def main(): await asyncio.gather(task1(), task2(), task3()) ``` 3. **上下文管理**:使用`async with`管理异步资源 #### 六、性能对比 通过HTTP请求示例比较同步/异步耗时: ```python # 同步版本(约3秒) def sync_fetch(): for _ in range(3): requests.get(url) # 假设每次请求1秒 # 异步版本(约1秒) async def async_fetch(): await asyncio.gather(*[session.get(url) for _ in range(3)]) ``` #### 七、常见错误 1. **忘记使用await**:导致协程未实际执行 2. **混合同步/异步代码**:在协程中调用阻塞函数 3. **未启动事件循环**:直接调用协程函数而不使用`asyncio.run()` [^1]: async/await应视为API接口而非具体实现 [^2]: 异步异常必须通过try-except捕获 [^3]: async关键字定义协程函数 [^5]: 事件循环通过Task对象管理协程状态
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值