python系列18:http请求异步版本

1. 基本方法multiprocessing

我们经常需要其多线程去调用服务(比如拉取远程图片、调用远程计算服务),常用的方式无非是使用multiprocessing+requests,例如:

from multiprocessing.dummy import Pool as ThreadPool
from tqdm import tqdm
import numpy as np
import os,json,requests,base64,struct
url = "http://****:19863/test" # 服务接口
uklist = ...
def getf(img):
    try:
        r = requests.post(url,...) # 请求体
        data = json.loads(r.text)['data'][0]
        return data
    except:
        1
results = []
with ThreadPool(100) as p:
    results = list(tqdm(p.imap(getf, urllist), total=num))

2. aiohttp

首先我们使用aiohttp创建请求。aiohttp简单来说就是requests的异步替代版。所谓异步请求,是指在单进程单线程的代码中,发起一次请求后,在等待网站返回结果的时间里,可以继续发送更多请求。

import aiohttp,asyncio

async def getf(imgList)
	async with aiohttp.ClientSession() as client: 
		for img in imgList:
			try:
				data = await client.post(url, ...)
				return data
			except:
				1
asyncio.run(getf())
  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值