学习札记之python:一只黄色的小爬虫

最近看小甲鱼的课程,动手实战了一下,成功了还是很开心的。。
废话就不说了,直接上源码,(本人比较懒所以没有注释)

import urllib.request as ureq
import os
import time


def url_open(url):
    req = ureq.Request(url)
    req.add_header('User-Agent', 'Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:77.0) Gecko/20100101 Firefox/77.0')
    req.add_header('Referer', url)
    response = ureq.urlopen(req)
    html = response.read()
    return html


def get_pages(url):
    html = url_open(url).decode('utf-8')
    pages_nums = []
    a = html.find('data-original=')
    while a != -1:
        b = html.find("' width", a)
        if b != -1:
            pages_nums.append(html[a + 15:b])
        else:
            b = a + 15
        a = html.find('data-original=', b)
    return pages_nums


def find_imgs(url):
    html = url_open(url).decode('utf-8')
    a = html.find('src=')
    b = html.find('.jpg', a, a + 255)
    while b == -1:
        b = a + 5
        a = html.find('src=', b)
        b = html.find('.jpg', a, a + 255)
    img_addrs = html[a + 5:b + 4]
    return img_addrs


def save_img(img_addrs):
    filename = img_addrs.split('/')[-1]
    with open(filename, 'wb') as f:
        img = url_open(img_addrs)
        f.write(img)


def maxnum(url, maxPageInd):
    html = url_open(url).decode('utf-8')
    a = html.find(maxPageInd)
    b = html.find('<span>', a - 10)
    num = html[b + 6:a]
    return int(num)


def meizi():
    folder = input("请输入保存图包的文件夹名称:")

    try:
        os.mkdir(folder)
    except OSError:
        pass
    os.chdir(folder)

    count = 0
    url = 'https://www.mzitu.com/'
    page_num = input("请输入你想要下载的页数:")
    print('开始获取页面信息...\n')
    page_nums = get_pages(url)
    img_addrs = []
    print('检测完毕,当前页面共有%d个图包,即将分别爬取...\n' % len(page_nums))

    for each in page_nums:
        count += 1
        temp = each.split("'")
        packnum = temp[0].split('/')[-1]
        name = packnum.split('_')[0]
        newfolder = temp[-1]
        page_url = url + name
        page_url2 = page_url + '/2'

        maxPageInd = "</span></a><a href='" + page_url2 + "'><span>"
        every_maxnum = maxnum(page_url, maxPageInd)
        print('第%d个图包的总图片数为%d张...\n' % (count, every_maxnum))

        os.mkdir(newfolder)
        os.chdir(newfolder)
        for i in range(every_maxnum):
            page_url3 = page_url + '/' + str(i + 1)
            print("正在获取第%d张图片地址..." % int(i+1))
            img_addrs = find_imgs(page_url3)
            save_img(img_addrs)

        os.chdir('..')
        print("等待5秒后,开始爬取下一个图包。")
        time.sleep(5)


if __name__ == '__main__':
    meizi()

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
【为什么学爬虫?】        1、爬虫入手容易,但是深入较难,如何写出高效率的爬虫,如何写出灵活性高可扩展的爬虫都是一项技术活。另外在爬虫过程中,经常容易遇到被反爬虫,比如字体反、IP识别、验证码等,如何层层攻克难点拿到想要的数据,这门课程,你都能学到!        2、如果是作为一个其他行业的开发者,比如app开发,web开发,学习爬虫能让你加强对技术的认知,能够开发出更加安全的软件和网站 【课程设计】 一个完整的爬虫程序,无论大小,总体来说可以分成三个步骤,分别是:网络请求:模拟浏览器的行为从网上抓取数据。数据解析:将请求下来的数据进行过滤,提取我们想要的数据。数据存储:将提取到的数据存储到硬盘或者内存中。比如用mysql数据库或者redis等。那么本课程也是按照这几个步骤循序渐进的进行讲解,带领学生完整的掌握每个步骤的技术。另外,因为爬虫的多样性,在取的过程中可能会发生被反、效率低下等。因此我们又增加了两个章节用来提高爬虫程序的灵活性,分别是:爬虫进阶:包括IP代理,多线程爬虫,图形验证码识别、JS加密解密、动态网页爬虫、字体反识别等。Scrapy和分布式爬虫:Scrapy框架、Scrapy-redis组件、分布式爬虫等。通过爬虫进阶的知识点我们能应付大量的反网站,而Scrapy框架作为一个专业的爬虫框架,使用他可以快速提高我们编写爬虫程序的效率和速度。另外如果一台机器不能满足你的需求,我们可以用分布式爬虫让多台机器帮助你快速取数据。 从基础爬虫到商业化应用爬虫,本套课程满足您的所有需求!【课程服务】 专属付费社群+定期答疑

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值