java高并发处理方案

解决java高并发问题，首先根据系统本身的并发量来制订不同的方案。

场景1.每秒100万及以上的qps

如果每秒达到百万的并发量，必须要使用硬件来解决了，目前有F5和LVS,利用F5或LVS来接收客户端的所有请求，再将请求负载均衡到nginx，nginx再将请求负载均衡到各个tomcat服务器。因为nginx的并发量大概8万左右，无法处理百万以上的并发

场景2.每秒10万以下的qps

nginx每秒可以处理8万左右的并发，具体需要根据接口的tps来决定，由nginx接收所有来自客户端的请求，再将请求负载均衡到各个tomcat服务器，每个tomcat的并发量大概在1000左右，这个也要取决的接口tps，tomcat的最大线程数为500多，接口响应越快，tps越小，并发量就越大

场景1需要用硬件负载，一般硬件的成本比较高，如果并发量没有10万以上，可以考虑使用场景2的方案，软件负载的成本比较低。

CDN：可以使用cdn来将客户端的请求发到离用户最近的服务节点上，这样可以提高接口的tps速度，提高用户体验和网站的并发量

消息：可以用消息服务来进行削峰、解耦，服务接收请求后，可以将请求通过消息发给业务服务，这样可以同时处理更过的请求，只需要增加业务的节点数量就可以了。目前常用的有rocketmq、kafka等

redis：可以利用redis来缓存一些常用的数据，尽量将查询的操作通过redis来处理，减少数据库的开销，来提高业务的处理速度，提高tps