1、查看图片地址
import requests
import parsel
url = ‘https://bcy.net/coser/toppost100’
response = requests.get(url=url, headers=headers)
selector = parsel.Selector(response.text)
urls = selector.css(‘.rank-index-box .rank-cos-top img::attr(src)’).getall()
titles = selector.css(‘.rank-index-box .rank-cos-avatar-box p::text’).getall()
lis = zip(urls, titles)
for i in lis:
img_url = i[0]
title = i[1]
response_2 = requests.get(url=img_url, headers=headers)
path = ‘D:\python\demo\cos小姐姐\img\’ + title + ‘.jpg’
with open(path, mode=‘wb’) as f:
f.write(response_2.content)
print(img_url)
图片数据是爬取下来了,但是保存数据后发现,仅仅只有20张图片,这根本不是我想要的~
所以要重新分析网页了~看一下是否有接口数据
我清空所有加载出来的数据,下拉的时候,然后出现一个神秘地址,点击去一看,果然是接口数据。为了保证准确性,咱们可以多往下翻翻
果然~~~
通过链接对比,发现接口数据的参数P是改变的,等同于页数编码,1就是对应的前20张图片数据
import requests
for page in range(1, 6):
url = ‘https://bcy.net/apiv3/rank/list/itemInfo’
params = {
‘p’: ‘{}’.format(page),
‘ttype’: ‘cos’,
‘sub_type’: ‘week’,
‘date’: ‘20200922’,
‘_signature’: ‘a2ovWQAAAAAem6QHkeiiVmtqL0AADQG’,
最后
不知道你们用的什么环境,我一般都是用的Python3.6环境和pycharm解释器,没有软件,或者没有资料,没人解答问题,都可以免费领取(包括今天的代码),过几天我还会做个视频教程出来,有需要也可以领取~
给大家准备的学习资料包括但不限于:
Python 环境、pycharm编辑器/永久激活/翻译插件
python 零基础视频教程
Python 界面开发实战教程
Python 爬虫实战教程
Python 数据分析实战教程
python 游戏开发实战教程
Python 电子书100本
Python 学习路线规划
网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!