python网络爬虫(第六章:实战7:协程)

实战1:下载三张图片(IO)

1.1普通下载【同步下载】

#下载3张照片(网络IO)

#普通方式
import requests

def download_image(url):
    print("开始下载:",url)
    #发送网络请求,下载图片
    response = requests.get(url)
    print("下载完成")
    #图片保存到本地文件
    file_name = url.rsplit(',')[-1]
    with open(file_name,'wb') as fp:
        fp.write(response.content)

if __name__ == "__main__":
    url_list = [
        'https://t7.baidu.com/it/u=3676218341,3686214618&fm=193&f=GIF',
        'https://t7.baidu.com/it/u=3930750564,2979238085&fm=193&f=GIF',
        'https://t7.baidu.com/it/u=3522949495,3570538969&fm=193&f=GIF'
    ]
    for item in url_list:
        download_image(item)

1.2 协程下载【异步下载】

# 协程下载3张图片
# 协程,又称异步

import aiohttp
import asyncio

async def fetch(session,url):
    print("发送请求",url)
    async with session.get(url,verify_ssl=False) as response:
        content = await response.content.read()
        file_name = url.rsplit(',')[-1]
        with open(file_name,'wb') as fp:
            fp.write(content)
        print('下载完成',url)

async def main():
    async with aiohttp.ClientSession() as session:
        url_list = [
            'https://t7.baidu.com/it/u=3676218341,3686214618&fm=193&f=GIF',
            'https://t7.baidu.com/it/u=3930750564,2979238085&fm=193&f=GIF',
            'https://t7.baidu.com/it/u=3522949495,3570538969&fm=193&f=GIF'
        ]
        tasks = [asyncio.create_task(fetch(session,url)) for url in url_list]
        await asyncio.wait(tasks)

if __name__ == "__main__":
    asyncio.run(main())
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值