思考: 到底什么是高并发?

最新推荐文章于 2024-09-25 18:45:00 发布

JavaGameServer

最新推荐文章于 2024-09-25 18:45:00 发布

阅读量762

点赞数

分类专栏： # c/c++ 文章标签： linux 测试工具 c#

本文链接：https://blog.csdn.net/themagickeyjianan/article/details/108812182

版权

c/c++ 专栏收录该内容

7 篇文章 0 订阅

订阅专栏

1)如何设计如何扩展

2)什么是高并发
(1)任务：完成某个功能的一个一个目标任务，服务器程序也是不例外的。
(2)CPU核心：完成具体任务的，是CPU核心 + 周围的外设(读写磁盘IO、网络IO) + 内存
(3)每个CPU核心可以同时调度不同的任务，如：I7双核：同时调度2个可以调度的任务;
提升单个核心主频(摩尔定律) + CPU的数目(不同核心处理不同的任务)，从而处理性能;
服务器专门用的机器：32多个核心，同时调度32个不同的任务 “同时执行”;
OS-->分配核心--》调度可以被调度的任务(线程)，一个线程--》任务--》OS会分配核心去调度执行它。
我们有几个核心，你就可以调度多个线程
(4)高并发：
处理一个任务，一个核心，我们需要0.3s。假如，双核，1s可以处理多少个业务呢？
并发数量：1个CPU核心处理一个任务需要0.25s，那么一个核心可以处理4个任务；4个任务*2 = 8个任务， 1s可以并发8个任务。

例子1：但是有时候，我们无法接近个任务，什么情况下我们无法做到8个任务呢：
如果我们把这些任务放到了一个OS可以调度的线程里面：
main(){
while(网络事件){
...// 1s只能处理4个任务，这个代码永远只有1个核心来处理这个任务。--》1s最多是处理4个任务。
}
}
同样的硬件，不同的代码，写出来的服务器的处理能力就不一样。由于我们的设计没有做到--》50%的CPU在休息。

结论：我们要使用多线程 or 多进程，增加我们的os可调度的单元，能发挥我们的多核的优势。

例子2：处理一个IO的任务，CPU把内存的数据--》磁盘驱动--》磁盘IC数据持久化到我们的磁盘--》数据就存到这个磁盘了；
WriteFile("内存数据"，文件)--》CPU--》内存数据--》磁盘的驱动(比较快0.001s完成)--》等待磁盘IC控制磁头，将内存的
数据持久化到硬盘上。
假设WriteFile需要0.25s，CPU是0.001s干完，其余0.249s就无事可干。

假设我们的CPU是一个核心，任务WriteFile 0.25 = 0.001 + 0.249(等待磁盘处理的时间)，CPU的实际工作只有0.001s，
CPU 0.249s可以做其它事情，我们的代码等在了IO上面。

我们并发的业务： 1/0.25s = 4次，CPU都是等待，我们本来可以让CPU做其它事情，但是你让它等待了。

不让它等待：
(1)加多线程、多进程，OS调度CPU核心做其它的任务--》提供了业务并发。
(2)采用异步：不傻等WriteFile完成，而是提交完0.001s，马上返回去做别的。磁盘你去存就可以了。
异步也是增加了线程。和多线程本质并没有其它的区别。

结论：当我们等待外部设备处理完成后，才能继续下一个任务的时候，我们要提供更多的调度单元，让OS去调度CPU去完成其它任务。
就跟快递员一样，不用傻等，而是去给其它人去派送。
我们就可以多个线程，不要让CPU没有任务可做。

代码问题、、、等待外设。。。这2个例子。

(5)一定不要傻等在一个任务上，你要做一个可以调度的单元，让OS去调度其它任务--》并发：
10个快递--》0.25 0.001--》0.249

0.001-->A
0.001-->B
0.001-->C
0.001-->D
0.001-->E
0.001-->F
...
0.001-->10人-->0.001s

那么：0.01 + 0.249--》0.259s就可以完成调度。而1个一个的派送，则需要2.5s

(6)安排足够的任务(线程)--》给足够的核心去调度。
32核心：就安排了6个核心去调度，那么大部分核心都在睡觉。

(7)增加调度单元：
多线程调度：根据核心数目，来运行我们的代码，16核心和32核心，是一样的。

多进程来部署：让不同的东西部署到不同的进程上。

3)服务器多线程架构
多线程去处理网络请求，成千上万个客户端。
哪个线程去处理哪个事件。
别再派送一个快递的时候，别的快递都傻等到这里了。有核心，没有任务。