requests库详解+HTTP协议理解等

🏐将以一个典型的requests库应用为例

import requests
def getHTML(url):
    r = requests.get(url)
    r.raise_for_status()
    r.encoding = r.apparent_encoding
    return r.text

🎈分步详解

🎏综述

request库常用作获取网页。

  1. 获取的✔ >>> 不仅仅指uHTML,并且还是下载这个网页的内容,比如图片或者文本等。
  2. 得到的✔ >>> 就目前所学到的来讲,并不是JS解析后的,而是一开始就写在了代码中的。
    🎱补充:当我们查看网页的源代码时,有两个方法,分别是 ▪F12 >>> 查看开发者工具 ;▪右键查看/CTRL+U. 前者得到的代码是JS解析之后的,而后者则是直接在源代码中的,也就是我们能直接get的。
    这也就是为什么我们打开开发者工具看到了的内容,却不能解析的原因

🎏 Request 与 Response

r = requets.get(url)  

这个过程实际上是向服务器发送了请求并且得到了Response。这个语句中有两个对象,一个是Request,一个是Response。
在Request,可以说就是get后面所包含的,里面有我们发送给服务器的User-agent等信息,而这个信息对于我们能不能获取很有帮助。因为网页有防止爬虫获取的一个手段就是检查来源,也就是看你的user-agent是不是市面上已知的浏览器。Response也就是我们得到的。

🐱‍🏍HTTP协议

🎐HTTP,超文本传输协议。

HTTP是1-2-3(基于XX模式的无状态的应用层协议)

  1. 基于"请求与响应"模式的 >>> 用户发送请求,服务器做出响应
  2. 无状态的 >>> 是指前后请求无关联,即是第一次请求和第二次请求无关联。具体来讲实际上是指,Web浏览器与Web服务器之间不需要建立持久的连接。当一个客户端向服务器端发出请求,服务器返回响应(Response),链接也就关闭了,在服务器端不保留链接的有关信息,HTTP请求只能由客户端发起,服务器不能主动向客户端发送数据。
  3. 应用层协议 >>> 是指该协议工作在TCP协议之上
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值