2024年最全Python爬虫之入门保姆级教程，学不会我去你家刷厕所，面试Python开发十大问题

前端小雪球

于 2024-05-04 16:03:49 发布

阅读量675

点赞数 26

分类专栏：程序员文章标签： python 爬虫面试

本文链接：https://blog.csdn.net/m0_58397123/article/details/138443839

版权

程序员专栏收录该内容

510 篇文章 0 订阅

订阅专栏

本文介绍了Python学习的系统化路线，包括各方向知识点、学习软件、入门视频、实战案例以及面试准备，强调了正则表达式在抓取图片信息中的应用，并提供了下载图片的示例。

摘要由CSDN通过智能技术生成

学好 Python 不论是就业还是做副业赚钱都不错，但要学会 Python 还是要有一个学习规划。最后大家分享一份全套的 Python 学习资料，给那些想学习 Python 的小伙伴们一点帮助！

一、Python所有方向的学习路线

Python所有方向路线就是把Python常用的技术点做整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

二、学习软件

工欲善其事必先利其器。学习Python常用的开发软件都在这里了，给大家节省了很多时间。

三、全套PDF电子书

书籍的好处就在于权威和体系健全，刚开始学习的时候你可以只看视频或者听某个人讲课，但等你学完之后，你觉得你掌握了，这时候建议还是得去看一下书籍，看权威技术书籍也是每个程序员必经之路。

四、入门学习视频

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了。

五、实战案例

光学理论是没用的，要学会跟着一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

六、面试资料

我们学习Python必然是为了找到高薪的工作，下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料，并且有阿里大佬给出了权威的解答，刷完这一套面试资料相信大家都能找到满意的工作。

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！


requests翻译过来就是请求的意思，用来向某一网站发送请求


#### 二、相关的参数（url，headers）


我们回到刚刚的控制台，点击上方的`Network`，按下`ctrl+r`刷新，随便点开一张图片  
 ![在这里插入图片描述](https://img-blog.csdnimg.cn/2021052523565590.png)  
 ![在这里插入图片描述](https://img-blog.csdnimg.cn/20210525235816491.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Nzk3MTIwNg==,size_16,color_FFFFFF,t_70)  
 这里我们只需要到两个简单的参数，本次案例只是做一个简单的爬虫教程，其他参数暂时不考虑




| 参数 | 作用 |
| --- | --- |
| Request URL | 发送请求的网站地址，也就是图片所在的网址 |
| user-agent | 用来模拟浏览器对网站进行访问，避免被网站监测出非法访问 |


![](https://img-blog.csdnimg.cn/20210526000505777.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Nzk3MTIwNg==,size_16,color_FFFFFF,t_70)  
 ![在这里插入图片描述](https://img-blog.csdnimg.cn/20210526000543614.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Nzk3MTIwNg==,size_16,color_FFFFFF,t_70)  
 参数代码的准备

url = “https://pic.netbian.com/uploads/allimg/210317/001935-16159115757f04.jpg”
headers = {
“user-agent”: “Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.90 Safari/537.36”
}


#### 三、向网站发出请求

response = requests.get(url=url,headers=headers)
print(response.text) # 打印请求成功的网页源码，和在网页右键查看源代码的内容一样的


![在这里插入图片描述](https://img-blog.csdnimg.cn/20210526111229667.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Nzk3MTIwNg==,size_16,color_FFFFFF,t_70)  
 这时候我们会发现乱码？！！！！这其实也是很多初学者头疼的事情，乱码解决不难

通过发送请求成功response，通过(apparent_encoding)获取该网页的编码格式，并对response解码

response.encoding = response.apparent_encoding
print(response.text)


看着这些密密麻麻的一大片是不是感觉脑子要炸了，其实我们只需要找到我们所需要的就可以了  
 ![在这里插入图片描述](https://img-blog.csdnimg.cn/20210526003901134.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Nzk3MTIwNg==,size_16,color_FFFFFF,t_70)


#### 四、匹配（re库，正则表达式）


什么是正则表达式？简单点说就是由用户制定一个规则，然后代码根据我们指定的所规则去指定内容里匹配出正确的内容


我们在前面的时候有看到图片信息是什么样子的，根据信息我们可以快速找到我们要的  
 ![在这里插入图片描述](https://img-blog.csdnimg.cn/20210526004156390.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Nzk3MTIwNg==,size_16,color_FFFFFF,t_70)  
 ![在这里插入图片描述](https://img-blog.csdnimg.cn/20210526004343288.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Nzk3MTIwNg==,size_16,color_FFFFFF,t_70)  
 接下来就是通过正则表达式把一个个图片的链接和名字给匹配出来，存放到一个列表中

import re
“”"
. 表示除空格外任意字符（除\n外）

表示匹配字符零次或多次
? 表示匹配字符零次或一次
.*? 非贪婪匹配
“”"

src后面存放的是链接，alt后面是图片的名字

直接(.*?)也是可以可以直接获取到链接，但是会匹配到其他不是我们想要的图片

我们可以在前面图片信息看到链接都是/u····开头的，所以我们就设定限定条件(/u.*?)这样就能匹配到我们想要的

parr = re.compile(‘src=“(/u.?)“.alt=”(.?)”’)
image = re.findall(parr,response.text)
for content in image:
print(content)


![在这里插入图片描述](https://img-blog.csdnimg.cn/20210526005515141.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Nzk3MTIwNg==,size_16,color_FFFFFF,t_70)  
 这样我们的链接和名字就存放到了image列表中了，通过打印我们可以看到以下内容


`image[0]`：列表第一个元素，也就是链接和图片  
 `image[0][0]`：列表第一个元素中的第一个值，也就是链接  
 `image[0][1]`：列表第一个元素中的第二个值，也就是名字  
 ![在这里插入图片描述](https://img-blog.csdnimg.cn/20210526112104734.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Nzk3MTIwNg==,size_16,color_FFFFFF,t_70)


#### 五、获取图片，保存到文件夹中（os库）


首先通过`os库`创建一个文件夹（当前你也可以手动在脚本目录创建一个文件夹）

import os
path = “彼岸图网图片获取”
if not os.path.isdir(path):
ok.mkdir(path)


然后对列表进行遍历，获取图片

对列表进行遍历

for i in image:
link = i[0] # 获取链接
name = i[1] # 获取名字
“”"
在文件夹下创建一个空jpg文件，打开方式以 ‘wb’ 二进制读写方式
@param res：图片请求的结果
“”"
with open(path+“/{}.jpg”.format(name),“wb”) as img:
res = requests.get(link)
img.write(res.content) # 将图片请求的结果内容写到jpg文件中
img.close() # 关闭操作
print(name+“.jpg 获取成功······”)


运行我们就会发现报错了，这是因为我们的图片链接不完整所导致的  
 ![在这里插入图片描述](https://img-blog.csdnimg.cn/20210526114057233.png)  
 我们回到图片首页网站，点开一张图片，我们可以在地址栏看到我们的图片链接缺少前面部分，我们复制下来 `https://pic.netbian.com`  
 ![在这里插入图片描述](https://img-blog.csdnimg.cn/20210526114609622.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Nzk3MTIwNg==,size_16,color_FFFFFF,t_70)  
 在获取图片的发送请求地址前加上刚刚复制的`https://pic.netbian.com`![在这里插入图片描述](https://img-blog.csdnimg.cn/20210526114810990.png)  
 运行，OK，获取完毕  
 ![在这里插入图片描述](https://img-blog.csdnimg.cn/20210526114906284.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Nzk3MTIwNg==,size_16,color_FFFFFF,t_70)  
 ![在这里插入图片描述](https://img-blog.csdnimg.cn/20210526115301983.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Nzk3MTIwNg==,size_16,color_FFFFFF,t_70)


#### 完整代码

import requests
import re
import os

url = “https://pic.netbian.com/”
headers = {
“user-agent”: “Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.90 Safari/537.36”
}

response = requests.get(url=url,headers=headers)
response.encoding = response.apparent_encoding

“”"
. 表示除空格外任意字符（除\n外）

表示匹配字符零次或多次
? 表示匹配字符零次或一次
.? 非贪婪匹配
“”"
parr = re.compile('src="(/u.?)“.alt=”(.*?)"') # 匹配图片链接和图片名字
image = re.findall(parr,response.text)

path = “彼岸图网图片获取”
if not os.path.isdir(path): # 判断是否存在该文件夹，若不存在则创建
os.mkdir(path) # 创建

对列表进行遍历

for i in image:
link = i[0] # 获取链接
name = i[1] # 获取名字
“”"
在文件夹下创建一个空jpg文件，打开方式以 ‘wb’ 二进制读写方式
@param res：图片请求的结果
“”"
with open(path+“/{}.jpg”.format(name),“wb”) as img:
res = requests.get(“https://pic.netbian.com”+link)
img.write(res.content) # 将图片请求的结果内容写到jpg文件中
img.close() # 关闭操作
print(name+“.jpg 获取成功······”)

一、Python所有方向的学习路线

二、学习软件

工欲善其事必先利其器。学习Python常用的开发软件都在这里了，给大家节省了很多时间。

三、入门学习视频

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了。

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友，可以戳这里获取

前端小雪球

关注

26
点赞
踩
9

收藏

觉得还不错? 一键收藏
0
评论
2024年最全Python爬虫之入门保姆级教程，学不会我去你家刷厕所，面试Python开发十大问题

学好 Python 不论是就业还是做副业赚钱都不错，但要学会 Python 还是要有一个学习规划。最后大家分享一份全套的 Python 学习资料，给那些想学习 Python 的小伙伴们一点帮助！
复制链接

扫一扫

专栏目录