2024年Python最新Python爬虫入门教程09：多线程爬取表情包图片(2)，美团面试java算法题

最后

Python崛起并且风靡，因为优点多、应用领域广、被大牛们认可。学习 Python 门槛很低，但它的晋级路线很多，通过它你能进入机器学习、数据挖掘、大数据，CS等更加高级的领域。Python可以做网络应用，可以做科学计算，数据分析，可以做网络爬虫，可以做机器学习、自然语言处理、可以写游戏、可以做桌面应用…Python可以做的很多，你需要学好基础，再选择明确的方向。这里给大家分享一份全套的 Python 学习资料，给那些想学习 Python 的小伙伴们一点帮助！

👉Python所有方向的学习路线👈

Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

👉Python必备开发工具👈

工欲善其事必先利其器。学习Python常用的开发软件都在这里了，给大家节省了很多时间。

👉Python全套学习视频👈

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了。

👉实战案例👈

学python就与学数学一样，是不能只看书不做题的，直接看步骤和答案会让人误以为自己全都掌握了，但是碰到生题的时候还是会一筹莫展。

因此在学习python的过程中一定要记得多动手写代码，教程只需要看一两遍即可。

👉大厂面试真题👈

我们学习Python必然是为了找到高薪的工作，下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料，并且有阿里大佬给出了权威的解答，刷完这一套面试资料相信大家都能找到满意的工作。

需要这份系统化学习资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

• wkhtmltopdf

相关模块的使用💨

---

• re

• requests

• concurrent.futures

安装Python并添加到环境变量，pip安装需要的相关模块即可。

一、💥明确需求

---

现在聊天谁还不发几个表情包？聊天时,表情包是我们重要的工具,更是拉进小伙伴们距离的好帮手,当聊天陷入尴尬境地时,随手一张表情包,让尴尬化为无形

本篇文章就用python批量爬取表情包图片，留以备用

二、💥网页数据分析

---

如图所示斗图网上面的图片数据都包含在 a 标签当中，可以尝试直接请求这个网页，查看response 返回的数据当中是否也含有 图片地址。

import requests

def get_response(html_url):

headers = {

‘User-Agent’: ‘Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36’

}

response = requests.get(url=html_url, headers=headers)

return response

def main(html_url):

response = get_response(html_url)

print(response.text)

if name == ‘main’:

url = ‘https://www.doutula.com/photo/list/’

main(url)

在输出结果中 ctrl + F 进行搜索。

这里有一个点想要注意一下，我用python请求网页所给我们返回的结果当中，包含图片url地址是：

data-original="图片url"

data-backup="图片url"

如果想要提取url地址的话，可以用parsel 解析库，或者 re 正则表达式。之前都是使用的parsel，本篇文章就用 正则表达式吧。

urls = re.findall(‘data-original=“(.*?)”’, response.text)

💥单页爬取完整代码

---

import requests

import re

def get_response(html_url):

headers = {

‘User-Agent’: ‘Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36’

}

response = requests.get(url=html_url, headers=headers)

return response

def save(image_url, image_name):

image_content = get_response(image_url).content

filename = ‘images\’ + image_name

with open(filename, mode=‘wb’) as f:

f.write(image_content)

print(image_name)

def main(html_url):

response = get_response(html_url)

urls = re.findall(‘data-original=“(.*?)”’, response.text)

for link in urls:

image_name = link.split(‘/’)[-1]

save(link, image_name)

if name == ‘main’:

url = ‘https://www.doutula.com/photo/list/’

main(url)

💥多线程爬取全站图片（如果你的内存够大）

---

3631页的数据，什么表情都有，嘿嘿嘿

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！