Python爬虫 | 爬取高质量小姐姐照片


1、数据来源分析

  在网页HTML源代码里,我们找到了每一张照片的地址为

https://photo.tuchong.com/5489136/f/360962642.jpg

  解析如下

https://photo.tuchong.com/author_id_list/f/img_id.jpg

  其中author_id_list和img_id都是我们需要自己获取的

2、获取author_id_list和img_id

  打开网站图虫网首页,经过分析,发现数据请求是动态加载的来源是下面的请求
在这里插入图片描述
  返回的数据中包含author_id_list和img_id,一个author_id_list对应好几个img_id,因此在获取数据的时候对每一个author_id_list下的图片进行单独保存,建立独立的文件夹在这里插入图片描述

3、制作detial

  将每一个author_id_list和img_id保存到一个detial中,利用键值对的形式,author_id_list存放author_id_list,img_id存放img_id
在这里插入图片描述

4、制作detial_list

  将每一个detial存放在detial_list,那么第一页的所需数据就准备好了
在这里插入图片描述

5、数据保存

  对每一个author_id建立应的文件夹
在这里插入图片描述

6、批量获取

  前面的请求参数有page和count,表示请求页数和每一页的数据量,将page放在循环中就行了
在这里插入图片描述

7、完整代码

import requests
import os

if __name__
  • 46
    点赞
  • 164
    收藏
    觉得还不错? 一键收藏
  • 14
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 14
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值