1. 在微服务的项目中,存在着服务之间的相互调用?如何防止高并发时,慢请求会压垮自身微服务?
给请求设置超时时间。使用spring框架中的restTemplate, 设置超时时间,设置请求池中的最大请求数,路由的最大并发数,空闲请求存活时间等。
很好奇如果没有设置这些,项目可以发出的最大请求数会是多少??
对于请求方来说,其实是没有限制的。对于接收方来说也没有一个明确的限制,完全是由服务器的配置决定,只要服务器不崩,应用进程就可以慢慢的处理。
2. 项目中使用的web容器是什么?可以介绍下它的特性吗?
项目中使用的web容器有undertow和jetty。
下面可以通过undertow的一些配置来了解
其中io线程数和工作线程数是比较核心的,
io线程,处理非阻塞任务,将io请求数据加载到buffer中。
工作线程,阻塞任务处理,undowtow从该线程池中取线程去处理请求
# 设置IO线程数, 它主要执行非阻塞的任务,它们会负责多个连接, 默认设置每个CPU核心一个线程
# 不要设置过大,如果过大,启动项目会报错:打开文件数过多
#server.undertow.io-threads=32
# 阻塞任务线程池, 当执行类似servlet请求阻塞IO操作, undertow会从这个线程池中取得线程
# 它的值设置取决于系统线程执行任务的阻塞系数,默认值是IO线程数*8
#server.undertow.worker-threads=2000
# 以下的配置会影响buffer,这些buffer会用于服务器连接的IO操作,有点类似netty的池化内存管理
# 每块buffer的空间大小,越小的空间被利用越充分,不要设置太大,以免影响其他应用,合适即可
server.undertow.buffer-size=1024
# 每个区分配的buffer数量 , 所以pool的大小是buffer-size * buffers-per-region
server.undertow.buffers-per-region=1024
# 是否分配的直接内存(NIO直接分配的堆外内存)
server.undertow.direct-buffers=true
undertow和jetty之间的区别在哪里呢?
jetty:io线程,Acceptor线程默认1个,Selector线程数默认2个;工作线程,最大线程数默认是200,最小是8;
undertown:io线程,默认cpu的核数。工作线程,io线程数*8
一个请求到jvm会经历过哪些东西呢?
1. Java NIO
a. 请求数据到buffer中
b. Channel对象从buffer中读取数据后,去selector中注册。
c. Selector是在java线程中调用,从工作线程池中取
d. 包含关系:channel中包含监听器Listener,Listener中包含Buffer。Select会不停的监听channel中的请求,如果有的话,则调用工作线程进行处理
e. Io线程处理buffer的读写,是io复用的的过程。Worker线程对应selector的调用是阻塞的线程。
2. undertow中的servlet
3. springMVC中的servlet