我们写爬虫是为了爬取网站数据,而网站的数据传输都是基于HTTP的。
HTTP协议不同于我们平常所见HTML页面,HTML页面只是HTTP协议里面一个可视化的子集。
HTTP(HyperText Transfer Protocol,超文本传输协议)是基于TCP的C/S架构的一种用于传输超文本的网络协议。
掌握了HTTP协议,后面爬虫遇到的很多问题都可以迎刃而解了。
一、HTTP之与整个网络协议

通过上图可以看到,HTTP协议处于TCP/IP模型中的应用层,这就意味着可以充分利用网络协议分层的优势,将HTTP所依赖的底层整个抽象为管道,如下图

其中HTTP请求跟HTTP响应都是字节流的形式。
在继续介绍HTTP之前先介绍一个HTTP抓包工具——Fiddler,后面部分截图为Fiddler抓包截图。

新开公众号“码家村”,欢迎关注

&spm=1001.2101.3001.5002&articleId=80396719&d=1&t=3&u=ee21ae3cdc29413c84053184582a8d57)
609

被折叠的 条评论
为什么被折叠?



