python爬虫爬取糗事百科图片

import urllib.request
import re
import os

def download_image(image_url):
    dirpath = './qiubai'
    # 获取文件名
    filename = os.path.basename(image_url)
    # 拼接文件全路径
    filepath = os.path.join(dirpath, filename)
    # 下载图片
    urllib.request.urlretrieve(image_url, filepath)
    print(filepath + '下载完毕')

def handle_content(request):
    # 拿到页面
    response = urllib.request.urlopen(request)
    html = response.read().decode('utf-8')
    # 处理html,通过正则表达式拿到所有的图片链接,并且将图片下载到本地
    pattern = re.compile(r'<div class="thumb">.*?<img src=(.*?) alt=.*?>.*?</div>', re.S)
    # 获取所有的图片的链接
    src_list = pattern.findall(html)
    # 遍历这个列表
    for src in src_list:
        # 取出两边的双引号
        src = src.strip('"')
        # 拼接完整的图片url
        image_url = 'https:' + src
        # 下载这个图片即可
        download_image(image_url)


# 构建请求对象并且返回
def handle_url(url, page):
    url = url + str(page)
    headers = {
        'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.108 Safari/537.36'
    }
    request = urllib.request.Request(url=url, headers=headers)
    return request

def main():
    url = 'https://www.qiushibaike.com/pic/page/'
    start_page = int(input('请输入抓取的起始页码:'))
    end_page = int(input('请输入抓取的结束页码:'))
    print('开始下载...........')
    for page in range(start_page, end_page + 1):
        # 拼接url,生成一个request
        request = handle_url(url, page)
        # 获取内容,处理内容
        handle_content(request)
    print('全部下载完毕')


if __name__ == '__main__':
    main()
  • 2
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值