聚焦爬虫__糗事百科图片抓取__分页

把糗事百科页面翻到最底部可以看到一共有13页,现在打开第2,3页,看到上面的网址会变为https://www.qiushibaike.com/8hr/page/2/和https://www.qiushibaike.com/8hr/page/3/,改变的只有页码,所以就可以在指定url时,设置一个通用的url模板。

爬取结果:
在这里插入图片描述
代码:

import requests
import re
import os

# 创建一个文件夹,保存所有图片
if not os.path.exists('./qiutuliba_fenye'):
    os.mkdir('./qiutulibs_fenye')
headers = {
    'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/96.0.4664.93 Safari/537.36'
}

# 设置一个通用的url模板
url = 'https://www.qiushibaike.com/8hr/page/%d/'
# 自由设置页码范围
for pagenum in range(1,3):
    new_url=format(url%pagenum)

    # 使用通用爬虫对url对应的一整张页面进行爬取
    page_text = requests.get(url=new_url,headers=headers).text
    # 使用聚焦爬虫对整张页面的所有糗图进行解析/提取。这里不懂正则表达式的可以去菜鸟教程https://www.runoob.com/python3/python3-reg-expressions.html学,现在的糗事网站和之前的不一样,所以自己手动修改了正则表达式才运行出结果,\表示匹配字符串结束
    ex='<li class="item typs_multi".*?<img src="(.*?)\?imageView2.*?" alt.*?</a>'
    imag_src_list = re.findall(ex,page_text,re.S)
    print(imag_src_list)

    # 遍历列表
    for src in imag_src_list:
            # 拼接出一个完整的图片url
            src = 'https:'+src
            # 请求到图片二进制数据
            imag_data=requests.get(url=src,headers=headers).content
            # 生成图片名称
            imag_name=src.split('/')[-1]
            # 图片存储的路径
            imagPath='./qiutulibs_fenye/'+imag_name
            with open(imagPath,'wb')as fp:
                fp.write(imag_data)
                print(imag_name,'下载成功!')




评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值