影响单台服务器的并发量的因素有哪些?如何优化?
- 操作系统角度
- 计算机网络角度
- 数据库角度
- 上下文切换:CPU通过时间片分配算法来循环执行任务,当前任务执行一个时间片后会切换到下一个任务。但是切换前会保存上一个任务的状态,以便下次切换回这个任务时,可以再加载这个任务的状态。任务从保存到再加载的过程就是一次上下文切换。上下文切换会影响多线程的执行速度,因此并发线程数并不是越多越好,需要合理控制并发线程数。减少上下文切换的方法有:
- 无锁并发编程:多线程竞争锁时,会引起上下文切换,所以多线程处理数据时,可以用一些办法来避免使用锁,比如参考ConcurrentHashMap的实现思想,将数据的ID按照Hash算法取模分段,不同的线程处理不同段的数据。
- CAS算法。Java的Atomic包使用CAS算法来更新数据,而不需加锁。
- 使用最少线程。避免创建不需要的线程。
- 协程:在单线程里实现多任务的调度,并在单线程里维持多个任务间的切换。
- 资源限制方面。硬件因素有服务器的带宽,磁盘读写速度和CPU的处理速度。软件资源限制有数据库的链接数和socket链接数等。