urllib/request爬取百度贴吧图片

import re
from urllib import request,parse
import os

# 突破下载函数
def download(img_html):
    # 正则匹配图片url
    img_url = re.findall('<img class="BDE_Image" src="(.*?)"',img_html,re.S)
    # print(img_url)
    # 判断文件夹不存在就创建
    if not os.path.exists('tieba'):
        os.mkdir('tieba')
    # 遍历所有突破url
    for i in img_url:
        # 切割突破文件名
        img_name = i.split('/')[-1]
        print(i)
        # 保存图片
        request.urlretrieve(i,'./tieba/'+str(img_name))


def pn():
    kw = input('输入贴吧名字')
    # 转换为URL编码
    kw = parse.quote(kw)
    # 拼接url
    base_url = 'https://tieba.baidu.com/f?kw='+kw
    # print(base_url)
    # 发送请求
    response = request.urlopen(base_url)
    # 转换格式
    html = response.read().decode('utf-8')
    # 获取最后一页的数据
    url = re.findall(r'pn=(\d+)',html)
    # 总页数 获取最后一个pn算出总页数
    p = int(int(url[-1])/50+1)
    print('总页数为'+str(p))
    start = input('输入开始页:')
    end = input('输入结束页:')
    # 遍历所有列表页url
    for i in range(int(start)-1,int(end)):
        # 拼接列表url
        pn_url = base_url+'&pn='+str(i*50)
        print(pn_url)
        # 发送详情页请求
        response = request.urlopen(pn_url)
        # 转换格式
        html = (response.read().decode('utf-8'))
        # 匹配详情页url
        pat = re.findall(r'href="(/p/\d*)',html)
        print(pat)
        # 遍历所有详情页url
        for j in pat:
            deta_url = 'http://tieba.baidu.com'+j
            print(deta_url)
            response = request.urlopen(deta_url)
            # deta_html = response.read().decode('utf-8')
            img_html = response.read().decode('utf-8','ignore')
            download(img_html)
            # break




if __name__=='__main__':
    pn()
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值