关于aiohttp下载大文件的方式

这里给出一个例子.可自由发挥.

也可以直接使用aiofiles , 其实跟下面执行的代码差不多的. aiofiles 也是用线程池解决问题

 

#写入文件的函数. 用线程池解决
def save_file(fd , data):
    fd.write(data)



async def fetch_files(session:aiohttp.ClientSession,url:str,path:str):
    
    #打开文件
    fd = open(path, 'wb')
    #获取loop 
    lp = asyncio.get_event_loop()

    #获取响应
    async  with session.get(url) as resp:
        while True:
            
            #异步等待结果 , Chunk_size 每个分片大小
            data = await resp.content.read(CHUNK_SIZE)

            if not data:
                break

            #等待写入,在线程池中写入
            # run_in_executor 返回一个future,因此可等待
            await lp.run_in_executor(None,save_file,fd,data)
    fd.close()

 

  • 2
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值