从零开始实现Web服务器(二)----服务器程序的程序结构

 服务器程序的程序结构

知识脉络

概览

模块划分

      I/O处理单元

      逻辑单元

      网络存储单元

      请求队列

模块配合模式

      事件处理模式

      并发模式 

模块实现基础

      多进程技术

      多线程技术 

优化方向 

      池化技术

      数据复制

      上下文切换和锁 

---

服务器程序的程序结构 

 

知识脉络

 

本系列的整体结构划如下
可以关注我的微信公众号Geek极客星球 获取完整的思维导图整理+代码实现

 

 

概览

 

虽然服务器程序种类繁多，但其基本框架都一样，不同之处在于逻辑处理。

模块	单个服务器程序	服务器机群
I/O处理单元	处理客户连接、读写网络数据	作为接入服务器，实现负载均衡
逻辑单元	业务进程或线程	逻辑服务器
网络存储单元	本地数据库、文件或缓存	数据库服务器
请求队列	各单元之间的通信方式	各服务器之间的永久TCP连接

模块划分

 

I/O处理单元

 

I/O处理单元是服务器管理客户连接的模块。它通常要完成以下工作：

对于单个服务器来说

等待并接受新的客户连接，接收客户数据，将服务器响应数据返回给客户端。
但是，数据的收发不一定在I/O处理单元中执行，也可能在逻辑单元中执行，
具体在何处执行取决于事件处理模式（见后文）。

对于一个服务器机群来说：

I/O处理单元是一个专门的接入服务器。
它实现负载均衡，从所有逻辑服务器中选取负荷最小的一台来为新客户服务。

逻辑单元

 

一个逻辑单元通常是一个进程或线程。
对于单个服务器来说:

它分析并处理客户数据，然后将结果传递给I/O 处理单元或者直接发送给客户端
（具体使用哪种方式取决于事件处理模式）。

对服务器机群来说：

一个逻辑单元本身就是一台逻辑服务器。
服务器通常拥有多个逻辑单元，以实现对多个客户任务的并行处理。

网络存储单元

 

网络存储单元可以是数据库、缓存和文件，甚至是一台独立的服务器。
但它不是必须的，比如ssh、telnet等登录服务就不需要这个单元。

请求队列

 

请求队列是各单元之间的通信方式的抽象。

对于单个服务器来说：

I/O处理单元接收到客户请求时，需要以某种方式通知一个逻辑单元来处理该请求。
同样，多个逻辑单元同时访问一个存储单元时，也 需要采用某种机制来协调处理竞态条件。
请求队列通常被实现为池的一部分，我们将在后面讨论池的概念。


对于服务器机群来说：

请求队列是各台服务器之间预先建立的、静态的、永久的TCP连接。
这种TCP连接能提高服务器之间交换数据的效率，因为它避免了动态建立 TCP连接导致的额外的系统开销。

模块配合模式

 

事件处理模式

 待补充 

 

并发模式 

待补充 

 

模块实现基础

 

多进程技术

待补充 

 

多线程技术 

 待补充 

优化方向 

池化技术

数据复制

上下文切换和锁