在学习 Web 开发的过程中,接触到编写网络爬虫程序、分析抓包数据、实现 HTTP 服务器、提供网站 REST
API、修改后端定制框架等方面,它们无一例外,都会用到 HTTP
协议的各方面知识,并且某些细节无法通过查阅资料立即领会到,还需依靠扎实的基础及平日里的积累。
关于讲解网络协议的书有三本,前两本被读者们奉为“圣经”:
- 《HTTP权威指南》 但是厚度令人望而生畏;
- 《TCP/IP 详解,卷1》 但是内容晦涩难懂,学习难度较大;
- 《图解HTTP》 内容相对生动有趣,对于初学者比较友好。
所以经过对比之后,我先从《图解HTTP》这本书开始学习,同时也将自己在学习过程中的笔记整理成博客向大家分享,并作为自己之后的复习笔记。
本书不仅面向 Web 应用程序的开发者,还面向使用 Web 的软件开发者、Web 风险评估的安全工程师、前端工程师以及 Web 使用者等与 Web 相关的所有读者。
直接步入正题。
1.1 网络基础TCP/IP协议
1.1.1 TCP/IP 协议族
为了理解 HTTP,我们有必要事先了解一下 TCP/IP 协议族。
通常使用的网络(包括互联网)是在 TCP/IP 协议族的基础上运作的。而 HTTP 属于它内部的一个子集。
TCP/IP 协议族里重要的一点就是分层。TCP/IP 协议族按层次分别分为以下 4 层:应用层、传输层、网络层和数据链路层。
TCP/IP 协议族各层的作用如下。
应用层
应用层决定了向用户提供应用服务时通信的活动。
TCP/IP 协议族内预存了各类通用的应用服务。比如,FTP(File Transfer Protocol,文件传输协议)和 DNS(Domain Name System,域名系统)服务就是其中两类。
HTTP 协议也处于该层。
传输层
传输层对上层应用层,提供处于网络连接中的两台计算机之间的数据传输。
在传输层有两个性质不同的协议:TCP(Transmission Control Protocol,传输控制协议)和 UDP(User Data Protocol,用户数据报协议)。
网络层(又名网络互连层)
网络层用来处理在网络上流动的数据包。数据包是网络传输的最小数据单位。该层规定了通过怎样的路径(所谓的传输路线)到达对方计算机,并把数据包传送给对方。
与对方计算机之间通过多台计算机或网络设备进行传输时,网络层所起的作用就是在众多的选项内选择一条传输路线。
链路层(又名数据链路层,网络接口层)
用来处理连接网络的硬件部分。包括控制操作系统、硬件的设备驱动、NIC(Network Interface Card,网络适配器,即网卡),及光纤等物理可见部分(还包括连接器等一切传输媒介)。硬件上的范畴均在链路层的作用范围之内。
1.1.2 TCP/IP 传输流
利用 TCP/IP 协议族进行网络通信时,会通过分层顺序与对方进行通信。发送端从应用层往下走,接收端则从链路层往上走。
我们用 HTTP 举例来说明,首先作为发送端的客户端在应用层(HTTP 协议)发出一个想看某个 Web 页面的 HTTP 请求。过程如下图:
1.2 与HTTP关系密切的协议:IP、TCP和DNS
1.2.1 负责传输的IP协议
IP协议位于网络层。IP协议的作用是把各种数据报传送给对方。而要保证确实传送给对方,则需要满足各类条件。其中两个重要的条件就是IP地址和MAC(Media Access Control Address)。
IP地址指明了节点被分配到的地址,MAC地址是指网卡所属的固定地址。IP地址可以和MAC地址进行配对。IP地址可变换,但MAC地址基本不会更改。
使用ARP协议凭借MAC地址进行通信
在网络中,通信的双方在同一局域网(LAN)内的情况是很少的,通常是经过多态计算机和网络设备的中转才能连接到对方。而在进行中转时,会利用下一站中转设备的MAC地址来搜索下一个中转目标。这是,就会采用ARP协议(Address Resolution Protocol)。ARP是一种解析地址的协议,根据通信方的IP地址就可以反查出对应的MAC地址。
没有人能够全面掌握互联网中的传输状况
在到达通信目标前的中转过程中,那些计算机和路由器的等网络设备只能获悉很粗略的传输路线。这种机制成为路由选择。无论哪台计算机、哪台网络设备,它们都无法全面掌握互联网中的细节。
1.2.2确保可靠性的TCP协议
TCP位于传输层,提供可靠的字节流服务。
所谓字节流服务是指,为了方便传输将大块数据分割成以报文段为单位的数据包进行管理。而可靠的传输服务是指能够把数据准确可靠的传给对方。
确保数据能够到达目标
为了准确无误的将数据送达目标,TCP协议采用了三次握手策略。用TCP协议报数据包送出去后,TCP不会对传送后的情况置之不理,他一定会向对方确认是否成功送达。握手过程中使用了TCP标志——SYN(synchronize)和ACK(acknowledgement)。
发送端首先发送一个带SYN标志的数据包给对方。接收端接收到后,回传一个带有SYN/ACK标志的数据包以示传达确认信息。最后,发送端再回传一个带ACK标志的数据包,代表“握手”结束。
若在握手过程中某个阶段莫名中断,TCP协议会再次以相同的顺序发送相同的数据包。
除了上述三次握手,TCP还有其他各种手段来保证通信的可靠性。
1.3负责域名解析的DNS服务
DNS(Domain Name System)服务时和HTTP协议一样位于应用层的协议。他提供域名到IP地址之间的解析服务。
计算机既可以被赋予IP地址,也可以被赋予主机名和域名。
用户通常使用主机名或域名来访问对方的计算机,而不是直接通过IP地址访问。因为与IP地址的一组纯数字相比,用字母配合数字的表示形式来指定计算机名更符合人类的记忆习惯。
但要让计算机取理解名称,相对而言就变得困难了。因为计算机更擅长处理一长串数字。
为了解决上述的问题,DNS服务应运而生。DNS协议通过提供域名查找IP地址,或逆向从IP地址反查域名的服务。
1.4 各种协议与HTTP协议的关系
学习了和HTTP协议密不可分的TCP/IP协议族中的各种协议之后,我们再通过这张图来了解下IP协议、TCP协议和DNS服务在使用HTTP协议的通信过程中各自发挥了哪些作用。