使用python requests 爬取妹子图网站图片

最新推荐文章于 2022-08-17 00:43:46 发布

heyh_py

最新推荐文章于 2022-08-17 00:43:46 发布

阅读量3.7k

点赞数 1

分类专栏：图片爬虫文章标签：爬虫 python 图片

本文链接：https://blog.csdn.net/heyh_py/article/details/80430076

版权

本文介绍了如何使用Python的requests库爬取妹子图网站的图片。通过设置请求头模拟浏览器，以及利用正则表达式提取图片链接，克服了服务器对非网站请求的403禁止问题。程序遍历1到71页，每页的妹子图大图保存到本地文件夹中。

摘要由CSDN通过智能技术生成

import requests
import os
import re

# 封面图http://mm.chinasareview.com/wp-content/uploads/2017a/07/04/limg.jpg
# http://www.meizitu.com/a//5590.html 大图链接
# 页码< li > < a href = '/a/more_1.html' > 2 < / a > < / li > 最大71
# 小图 过滤掉 <img src="http://mm.chinasareview.com/wp-content/uploads/2017a/05/15/limg.jpg"
# 大图保存 http://mm.chinasareview.com/wp-content/uploads/2017a/02/07/09.jpg
'''
妹子图网站的特殊的地方在于网站服务器与图片服务器分开，
任何非网站服务器的对图片资源的请求都会被403  forbiden掉
因此需要在requests中设置代理服务器为网站服务器的ip，避开图片服务器的过滤
''' 

# 请求头设置模拟的浏览器版本
headers = {
    "User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.103 Safari/537.36"}
# 创建链接对象
session = requests.session()
# 设置为短链接，防止连接数过多 程序报错
session.keep_alive = False


# 定义函数
def spider_for_meizitu(url):