asyncio+requests个人笔记

该博客探讨了如何在Python中结合asyncio库来解决requests同步请求导致的阻塞问题。通过为每个requests请求创建单独的事件循环,利用`asyncio.run_in_executor()`实现异步操作,从而在并发执行多个请求时提高效率。示例代码展示了如何创建并运行异步任务,以及如何使用`asyncio.gather()`来收集和返回所有任务的结果。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

requests库结合asyncio

  • 使用asyncio和requests库

  • 由于request是同步的,会阻塞asyncio

  • 所以为每个request请求都创建多一个事件轮询器(这边我理解是多一个事件轮询器对应一个多线程)去跑requests库的请求

  • # 使用requests库
    def get_resp(xx):
    	resp = requests.get(xx)
    	return resp
    # 每个request请求都创建多一个事件轮询器
    async def async_requests():
    	loop = asyncio.get_event_loop()
    	resp = await loop.run_in_executor(None,get_resp,xx)
    # 将任务添加到执行队列中去
    async def tasks():
    	tasks = [async_requests() for i in range(10)]
        ret = await asyncio.gather(*tasks)
        return ret
    # 主入口
    def main():
        asyncio.run(tasks())
    if '__name__' == '__main__':
        main()
    

参考文章:

  • https://blog.csdn.net/J_Object/article/details/78880610
  • https://stackoverflow.com/questions/53020839/asyncio-post-requests-with-login-to-site/53028466
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值