python 随手写的一个爬虫程序-各种网站图片

windows下可运行
注意需获取网站源代码
1.打开网页空白处点击右键先择查看页面源代码
2.复制所有
3.在当前文件夹下新建文本文档html.txt
4.打开粘贴保存
5.开始运行程序
暂时没写很复杂的,后期有时间了再写更好玩的

import os
import re
import urllib.request
import gevent
import gevent.monkey

gevent.monkey.patch_all()

num = 0
with open("html.txt", "r", encoding="utf-8") as f:
    html_source_code = f.read()

code_list = re.findall(r"https://[^:]*\.jpg", html_source_code)
print("下载的图片数量:%d" % len(code_list))

os.mkdir("img1")


def downloader():
    if len(code_list) > 0:
        global num
        req = urllib.request.urlopen(code_list.pop(0))
        jpg = req.read()
        with open("img1" + "/" + str(num + 1) + ".jpg", "wb") as f:
            f.write(jpg)
        num += 1
    else:
        return


def main():
    while True:
        gevent.joinall([gevent.spawn(downloader), gevent.spawn(downloader),
                        gevent.spawn(downloader), gevent.spawn(downloader)])
        if len(code_list) <= 0:
            break


if __name__ == '__main__':
    main()
    print("下载完成")

如代码有误可与本人联系

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Python少年班

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值