关键词和背景知识
CPU_WAIT_IO(等待IOCPU时间比率);
cpu运行时间,cpu等待时间;
公式:最佳线程数目 = ((线程等待时间+线程CPU时间)/线程CPU时间 )* CPU数目;
一个案例
在同一个进程里面,启动两个线程池,一个执行调用A服务,另外一个执行调用B服务,都是网络调用;
假设机器是10核数,A线程池最大为10,B也是最大为10;
调用A服务阻塞,那么调用B服务是不是也会受到影响而变慢呢?
调用A服务一定会受到影响,因为他们公用的资源是Cpu,当调用A服务的线程被阻塞时,那么线程锁住的cpu资源并没有释放,而是在等待,分配给B的时间片就变得少了。
如何解决此类问题?
优化A的服务处理时间,并且在处理不过来的情况下做到能够快速返回响应。
还有一种治标不治本的方法,就是稍微加大调用A的线程数,为什么这么做?因为执行满的任务,就不应该让cpu空闲,那么就该加大cpu的个数,但是,但是,但是,对于A的资源竞争者来讲,调用B服务的cpu时间片更少了。因此还是不能很好的解决问题。因此,还必须从优化A的服务性能入手!!!!
结论
总之:我们要让我们的cpu不在等待IO上面浪费时间,而是让它执行更多的计算指令;