2024年最新2024疫情期间八家大厂的Python面试经历和真题整理，python爬虫——request模块讲解，2024年最新字节跳动社招面试记录

2401_84123357

于 2024-04-23 04:38:30 发布

阅读量748

点赞数 12

分类专栏： 2024年程序员学习文章标签： python 面试爬虫

本文链接：https://blog.csdn.net/2401_84123357/article/details/138103127

版权

2024年程序员学习专栏收录该内容

8 篇文章 0 订阅

订阅专栏

收集整理了一份《2024年最新Python全套学习资料》免费送给大家，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上Python知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来

如果你需要这些资料，可以添加V无偿获取：hxbc188 （备注666）

正文

环境安装：pip install requests

基本步骤：.

**1.导入模块:import requests

2.指定url:url = “…”

3.基于requests模块发送请求:res = requests.get(url)

4.获取响应对象中的数据值:print(res.‘…’)

5.持久化存储（不是必须的）**

三、http知识复习

==========

（一）八种请求方式：GET、 POST、 HEAD、OPTIONS、 PUT、 DELETE、 TRACE、 CONNECT。

这里我只详细介绍get和post：

1.GET

用于获取资源，当采用 GET 方式请求指定资源时，被访问的资源经服务器解析后立即返回响应内容。通常以 GET 方式请求特定资源时，请求中不应该包含请求体，所有需要向被请求资源传递的数据都应该通过 URL 向服务器传递。

2. POST

POST 动作：用于提交数据，当采用 POST 方式向指定位置提交数据时，数据被包含在请求体中，服务器接收到这些数据后可能会建立新的资源、也可能会更新已有的资源。同时 POST 方式的请求体可以包含非常多的数据，而且格式不限。因此 POST 方式用途较为广泛，几乎所有的提交操作都可以使用 POST 方式来完成。

注：虽然用 GET 方式也可以提交数据，但一般不用 GET 方式而是用 POST 方式。在 HTTP协议中，建议 GET 方式只用来获取数据，而 POST 方式则用来提交数据(而不是获取数据)。

get方式和post方式区别：

简单来说，本质上区别：

**- GET产生一个 TCP数据包

- POST产生两个 TCP数据包**

对于GET方式的请求，浏览器会把http header和data一并发送出去，服务器响应200（返回数据）；

而对于POST，浏览器先发送header，服务器响应100 continue，浏览器再发送data，服务器响应200 ok（返回数据）。

（二）http常见请求参数

url：请求url地址

headers：请求头

**data：发送编码为表单形式的数据

params：查询字符串**

host：请求web服务器的域名地址

User-Agent：HTTP客户端运行的浏览器类型的详细信息。通过该头部信息，web服务器可以判断到当前HTTP请求的客户端浏览器类别。

Accept：指定客户端能够接收的内容类型，内容类型中的先后次序表示客户端接收的先后次序。

Accept-Encoding：指定客户端浏览器可以支持的web服务器返回内容压缩编码类型。

Accept-Language:指定HTTP客户端浏览器用来展示返回信息所优先选择的语言

Connection:表示是否需要持久连接。如果web服务器端看到这里的值为“Keep-Alive”，或者看到请求使用的是HTTP 1.1（HTTP 1.1默认进行持久连接），表示连接持久有效，是不会断开的

cookie：HTTP请求发送时，会把保存在该请求域名下的所有cookie值一起发送给web服务器。

Refer：包含一个URL，用户从该URL代表的页面出发访问当前请求的页面

四、request请求模块的方法使用

==================

举例说明：爬取我个人网站的数据

import requests #导入request模块

url = “http://42.192.212.170/” #指定url为我个人的网站

r = requests.get(url) #基于request模块给我个人url网站发送请求

print (r.url) #获取响应包地址

print (r.status_code) #获取响应包的状态码

print (r.headers) #获取响应包的头部信息

print (len(r.text)) #获取以文本形式下响应包的长度

print (r.encoding) #获取网页编码方式

print (r.cookies) #获取响应包的cookie值

print (r.content) #以字节形式返回响应体，会自动解码成gzip和deflate压缩

输出结果：

现在能在网上找到很多很多的学习资源，有免费的也有收费的，当我拿到1套比较全的学习资源之前，我并没着急去看第1节，我而是去审视这套资源是否值得学习，有时候也会去问一些学长的意见，如果可以之后，我会对这套学习资源做1个学习计划，我的学习计划主要包括规划图和学习进度表。

分享给大家这份我薅到的免费视频资料，质量还不错，大家可以跟着学习

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

如果你需要这些资料，可以添加V无偿获取：hxbc188 （备注666）

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
果你需要这些资料，可以添加V无偿获取：hxbc188 （备注666）**
[外链图片转存中…(img-cjcCsdAc-1713818340583)]

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！