thrift提供的网络服务模型有阻塞型和非阻塞型:
- 阻塞服务模型:TSimpleServer、TThreadPoolServer
- 非阻塞服务模型:TNonblockingServer、THsHaServer和TThreadedSelectorServer
TSimpleServer
该模型采用同步阻塞IO,一次只能接受并处理一个socket
优点
- 能够及时返回数据,无延迟
- 对内核开发者来说简单,容易实现
缺点
- 对用户来说处于等待状态就要付出性能的代价
- 效率低下,生产上一般不会用
执行流程
TThreadPoolServer
采用blocking+线程池的工作方式,主线程负责阻塞式监听是否有新的socket到来,具体业务交由一个线程池来处理
优点
- 一个连接的阻塞不会影响其他的连接
- 适合解决小规模的服务请求
缺点
- 当面对大规模的服务请求时,会导致连接池的资源消耗殆尽,请求只能排队
执行流程
TNonblockingServer
采用NIO模模式,借助Channel/Selector机制,采用IO事件模型处理。属于IO多路复用(IO multiplexing)
优点
- 能处理更多的连接
缺点
- 单个连接处理变慢
- 当请求规模小时,性能上不如TThreadPoolServer模式
执行流程
THsHaServer
继承自TNonblockingServer,引入了线程池提高任务处理的并发能力,是一种半同步半异步(Half-Sync/Half-Async)的处理模式,半同步用户IO事件处理,半异步用于业务逻辑处理
优点
- 将业务处理交给线程池,提高了并发能力
缺点
- 主线程仍然需要处理accept、read、write时间,当读取或者发送的数据量比较大时,会将主线程阻塞,新的连接无法被及时处理
执行流程
TThreadedSelectorServer
TThreadedSelectorServer是对THsHaServer的一种改进,它将selector中的read/write事件从主线程中剥离出来
优点
- 进一步提高了线程的并发能力