celebs名人写真图片数据采集，先下载100个G再说，面试常识

工具准备

---

开发环境：win10、python3.7

开发工具：pycharm、Chrome

使用工具包：requests，lxml, os

项目思路

---

网页图片数据量过大，以单独的一项展示学习 选取单独的A分类

requests发送网络请求

headers = {

‘User-Agent’: ‘Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/90.0.4430.212 Safari/537.36’

}

url = ‘https://celebs-place.com/photos/people-A.html’

response = requests.get(url, headers=headers)

xpath提取对应明星a标签的href属性和明星名字

html_data = etree.HTML(response.text)

celebs_url_list = html_data.xpath(‘//div[@class=“model_card”]/a/@href’)

name_list = html_data.xpath(‘//div[@class=“model_card”]/a/div/span/text()’)

拼接详情页面url地址， 判断是否能获取数据 提取详情页面所以的url地址 (“你问为啥不获取具体的页数，因为懒！！！！”)

for page in range(1, 50):

url_detail = ‘https://celebs-place.com’ + celebs_url + ‘page{}/’

​

res = requests.get(url_detail.format(page), headers=headers).text

print(res)

data = etree.HTML(res)

img_url_list = data.xpath("//div[@class='gallery-p

ics-list’][1]/div/a/img/@src")

if not img_url_list:

break

保存的文件夹可以手动创建（最好是代码创建，避免各位大佬在使用代码时有不必要的纠纷 狗头保命）

path = “你的文件路径”

if not os.path.exists(path):

os.mkdir(path)

获取的图片url是小图标的 详细的图片是大图 去除图片url的/cache和后半部分就是大图url（‘-gthumb-gwdata240-ghdata300.jpg’） 提取到准确的图片url地址 请求图片数据，保存对应图片到文件夹

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数Python工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年Python开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Python开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加V获取：vip1024c （备注Python）

一、Python所有方向的学习路线

Python所有方向路线就是把Python常用的技术点做整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

二、学习软件

工欲善其事必先利其器。学习Python常用的开发软件都在这里了，给大家节省了很多时间。

三、入门学习视频

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了。

一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

,color_FFFFFF,t_70,g_se,x_16#pic_center)

一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
[外链图片转存中…(img-CveJAHlX-1712648314524)]